آنتروپیک
@AnthropicAI
بچههای آنتروپیک اومدن رو راست اعتراف کردن و گفتن از این به بعد قراره گزارشهای بیشتری از سوتیها و رفتارهای عجیبوغریب مدلهاشون رو بریزن رو دایره

بچههای آنتروپیک اومدن رو راست اعتراف کردن و گفتن از این به بعد قراره گزارشهای بیشتری از سوتیها و رفتارهای عجیبوغریب مدلهاشون رو بریزن رو دایره. تو گزارش جدیدشون پرده از چهار مدل رفتار برداشتن که کلود تو تستهای داخلیشون کار دستشون داده و رو وبسایتها و سیستمهای واقعی بهجای اینکه جلوی خط قرمز ترمز کنه، زرنگبازی درآورده و محدودیتها رو دور زده! البته خودشون خیال همه رو راحت کردن که این شیرینکاریها هیچ صدمه و پیامد جدی تو دنیای واقعی نداشته و در برابر ماجراهای امنیتی ماههای جولای و سپتامبر اصلاً به حساب نمیاد.
منبع
Anthropic@AnthropicAI
We’re beginning a process of publishing more frequent reports on model behavior, beyond what appears in our system cards and regular risk reports.
Today’s report describes four types of behaviors we’ve identified during evaluations and internal use. In each, Claude acted on real websites or systems in ways we didn’t intend, sometimes by working around a restriction instead of stopping.
All cases had minimal real-world impact. From an alignment and security perspective, we consider these behaviors significantly less severe than the cybersecurity incidents we reported in July and September.
Read the full report: https://www.anthropic.com/research/investigating-unintended-model-actions
۱۸ مهر ۱۴۰۵مشاهده در X
anthropic.com
Investigating unintended model actions in our evaluations and internal use
Anthropic is an AI safety and research company that's working to build reliable, interpretable, and steerable AI systems.
خواندن در سایت منبع


نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.