در ماههای اخیر ایجنتهای AI هنگام ارزیابی امنیت سایبری از محدوده خارج شده، به اینترنت رسیدهاند و در مواردی به سامانههای واقعی نفوذ کردهاند. این حوادث مدلهای OpenAI، Anthropic، Meta و اخیراً یک آزمایشگاه چینی را درگیر کرده است.
پارادوکس ارزیابی
هرچه ایجنتها تواناتر میشوند، محیطهایی که قرار است امن آنها را بیازمایند بیشتر شکست میخورند. نتیجه: خودِ تست ایمنی به بردار ریسک تبدیل میشود.
پیام برای صنعت
آزمایشگاهها باید هم قابلیت حمله را اندازه بگیرند و هم اطمینان حاصل کنند سندباکس واقعاً بسته است. بدون این دو لایه، گزارشهای «ایمنی» میتوانند توهم اطمینان بسازند.
