آنتروپیک@AnthropicAI

بچه‌های آنتروپیک اومدن رو راست اعتراف کردن و گفتن از این به بعد قراره گزارش‌های بیشتری از سوتی‌ها و رفتارهای عجیب‌وغریب مدل‌هاشون رو بریزن رو دایره

بچه‌های آنتروپیک اومدن رو راست اعتراف کردن و گفتن از این به بعد قراره گزارش‌های بیشتری از سوتی‌ها و رفتارهای عجیب‌وغریب مدل‌هاشون رو بریزن رو دایره. تو گزارش جدیدشون پرده از چهار مدل رفتار برداشتن که کلود تو تست‌های داخلی‌شون کار دستشون داده و رو وبسایت‌ها و سیستم‌های واقعی به‌جای اینکه جلوی خط قرمز ترمز کنه، زرنگ‌بازی درآورده و محدودیت‌ها رو دور زده! البته خودشون خیال همه رو راحت کردن که این شیرین‌کاری‌ها هیچ صدمه و پیامد جدی تو دنیای واقعی نداشته و در برابر ماجراهای امنیتی ماه‌های جولای و سپتامبر اصلاً به حساب نمیاد.

منبع

Anthropic@AnthropicAI
We’re beginning a process of publishing more frequent reports on model behavior, beyond what appears in our system cards and regular risk reports. Today’s report describes four types of behaviors we’ve identified during evaluations and internal use. In each, Claude acted on real websites or systems in ways we didn’t intend, sometimes by working around a restriction instead of stopping. All cases had minimal real-world impact. From an alignment and security perspective, we consider these behaviors significantly less severe than the cybersecurity incidents we reported in July and September. Read the full report: https://www.anthropic.com/research/investigating-unintended-model-actions
۱۸ مهر ۱۴۰۵مشاهده در X
anthropic.com

Investigating unintended model actions in our evaluations and internal use

Anthropic is an AI safety and research company that's working to build reliable, interpretable, and steerable AI systems.

خواندن در سایت منبع

نظرها

    بیشتر بخوانید

    تنظیمات

    پیش‌نمایش

    انویدیا از نسل تازه‌ی تراشه‌هایش رونمایی کرد؛ متن خبرها با همین اندازه و فاصله‌ی خطوط نمایش داده می‌شود. ۱۴۰۵ — 2026

    ظاهر و متن

    پوسته
    اندازه‌ی متن
    فاصله‌ی خطوط

    خواندن و نمایش

    نمای فهرست خبرها

    استوری‌ها

    چه خبرهایی پخش شوند
    ترتیب
    دیده‌شده‌هابدون باز کردن تک‌تک خبرها

    صدا

    اعلان‌ها و موضوع‌ها

    موضوع‌هایی که دنبال می‌کنیدهنوز هیچانتخاب موضوع‌ها

    صدای فارسی

    این دستگاه صدای فارسی ندارد. نمونه‌ی صداها را بشنوید و یکی را یک بار دانلود کنید تا خبرها و خلاصه‌ی روز را بشنوید.

    راه‌های دیگر

    ویدیوی خبر

    گفتگو

    … نفر آنلاین

      خواندن کامل