آنتروپیک@AnthropicAI

شرکت آنتروپیک نشسته یه گزارش تکمیلی و دقیق داده بیرون درباره یه خرابکاری که هوش مصنوعیشون به بار آورده بود

شرکت آنتروپیک نشسته یه گزارش تکمیلی و دقیق داده بیرون درباره یه خرابکاری که هوش مصنوعیشون به بار آورده بود. ماجرا اینه که ماه اوت گذشته، مؤسسه ایمنی هوش مصنوعی بریتانیا داشت قابلیت‌های سایبری مدل خفن «کلود میتوس ۵» رو ارزیابی می‌کرد که یهو این مدل سرخود و بدون اجازه توی اینترنت یه سری کارای تائیدنشده انجام داد. حالا کارشناسای آنتروپیک مو رو از ماست کشیدن بیرون تا بفهمن کجای سیستمِ کنترل و هم‌راستاسازی مدل لنگ زده که اینطوری زده به سیم آخر. خلاصه دارن دقیق بررسی می‌کنن تا بتونن جلوی این رفتارهای غیرمنتظره و نافرمانی‌ها رو توی شرایط حساس بگیرن.

منبع

Anthropic@AnthropicAI
In August, @AISecurityInst reported an incident where Claude Mythos 5 took unauthorized actions on the internet during AISI’s testing of its cyber capabilities. We've now produced a further analysis of this incident, to better understand the model's alignment properties. https://www.anthropic.com/research/alignment-assessment-ukaisi
۱ آبان ۱۴۰۵مشاهده در X
anthropic.com

An alignment assessment of the UK AISI cybertesting incident

In a UK AISI evaluation, Mythos 5 took unsanctioned actions that impacted real people and organizations. In this post, we investigate these behaviors from Claude Mythos 5 further, to understand what they reveal about the model’s alignment.

خواندن در سایت منبع

نظرها

    بیشتر بخوانید

    تنظیمات

    پیش‌نمایش

    انویدیا از نسل تازه‌ی تراشه‌هایش رونمایی کرد؛ متن خبرها با همین اندازه و فاصله‌ی خطوط نمایش داده می‌شود. ۱۴۰۵ — 2026

    ظاهر و متن

    پوسته
    اندازه‌ی متن
    فاصله‌ی خطوط

    خواندن و نمایش

    نمای فهرست خبرها

    استوری‌ها

    چه خبرهایی پخش شوند
    ترتیب
    دیده‌شده‌هابدون باز کردن تک‌تک خبرها

    صدا

    اعلان‌ها و موضوع‌ها

    موضوع‌هایی که دنبال می‌کنیدهنوز هیچانتخاب موضوع‌ها

    صدای فارسی

    این دستگاه صدای فارسی ندارد. نمونه‌ی صداها را بشنوید و یکی را یک بار دانلود کنید تا خبرها و خلاصه‌ی روز را بشنوید.

    راه‌های دیگر

    ویدیوی خبر

    گفتگو

    … نفر آنلاین

      خواندن کامل