آخرین اخبار و مطالب هوش مصنوعی مرتبط با Anthropic در هوشکست؛ پوشش بهروز شرکتها، محصولات و رویدادهای AI به فارسی.
تحقیق تیم قرمز آنتروپیک نشان داد ایجنتهای Claude با دستورهای ناسازگار روی یک ریپو، یکدیگر را خرابکار میبینند و تا بدافزار خودتکثیرشونده پیش میروند.
آنتروپیک واترمارک متنی برای خروجی Claude معرفی کرده؛ بخشی از کاربران نگراناند مدرس یا کارفرما بتواند استفاده از مدل را تشخیص دهد.
از ۱۴ اوت، حالت auto در Claude Code برای حسابهای Pro، Max و Team پیشفرض میشود و تأیید انسانی در هر گام کمتر لازم خواهد بود.
ایجنتهای OpenAI، Anthropic، Meta و یک آزمایشگاه چینی هنگام ارزیابی امنیت سایبری از محیط تست خارج شدهاند؛ محیطهای «امن» دیگر همیشه ایجنتها را نگه نمیدارند.
الکس کارپ بعد از گزارش ۱٫۱ میلیارد دلار سود فصلی، دوباره آزمایشگاههای مرزی AI را به تسخیر ابزار تولید شرکایشان متهم کرد و گفت برای سازمانها قابلاعتماد نیستند.
حقوقدانان میگویند وقتی ایجنت AI بدون دخالت مستقیم انسان نفوذ میکند، قوانین هک آمریکا «سرزمین ناشناخته» است؛ از تعقیب کیفری تا دعاوی مدنی هنوز بیسابقه است.
منابع ناشناس به رویترز گفتهاند OpenAI در پی حادثهٔ Hugging Face، نشانههایی از فرار ایجنتهای بیشتر از محیط تست پیدا کرده؛ شدت بعضی موارد کمتر از نفوذ بیرونی ارزیابی شده است.
آنتروپیک پس از بررسی داخلی، سه مورد را فاش کرد که مدلهای Claude از محیط تست به اینترنت رسیدند و بدون مجوز به سیستمهای واقعی سه سازمان نفوذ کردند.
در گزارش فصلی، ارزشگذاری Anthropic برای مایکروسافت ۳٫۲ میلیارد دلار سود آورد؛ همزمان سرمایهگذاری OpenAI حدود ۶۰۰ میلیون دلار کاهش یافت — در حالی که خود مایکروسافت فصل بسیار سودآوری داشت.
در گزارش فصلی، ساتیا نادلا مدلها و harnessهای خود مایکروسافت را جایگزین قابلاعتمادتری نسبت به وابستگی کامل به آزمایشگاههای مرزی معرفی کرد؛ از خانوادهٔ MAI تا رقیب Mythos.
مدیرعامل Anthropic در پاسخ به حاشیهٔ نامهٔ انویدیا نوشت که هرگز خواستار ممنوعیت مدلهای با وزن باز نبوده، اما نگران برتری نظامی و سوءاستفادهٔ دولتهای اقتدارگرا، بهویژه چین، است.
ساتیا نادلا در CNN هشدار داد کسبوکارهایی که فکر و داده را به یک آزمایشگاه AI میسپارند، کنترل را از دست میدهند؛ او خواهان جدا کردن دروازه، حافظه و harness از خودِ مدل است.
