ایجنت
@_NathanCalvin
@_NathanCalvinنیتن کلوین یه نکته خیلی خفن و زیرپوستی رو کشیده بیرون و میگه پژوهشگرا تو یه سری ماجراها اصلاً نتونستن تشخیص بدن این ایجنت‌های هوش مصنوعی دقیقاً دارن با کدوم مدل کار می‌کنن
نیتن کلوین یه نکته خیلی خفن و زیرپوستی رو کشیده بیرون و میگه پژوهشگرا تو یه سری ماجراها اصلاً نتونستن تشخیص بدن این ایجنت‌های هوش مصنوعی دقیقاً دارن با کدوم مدل کار می‌کنن. داستان اینه که با پیچیده‌تر شدن ابزارهای خودکار، کار داره به سمتی میره که اگه اتفاق یا خرابکاری‌ای رخ بده، رسماً دستمون به جایی بند نیست و نمی‌فهمیم پشت صحنه دست‌پخت کی بوده. کلوین تأکید می‌کنه که از این به بعد این بی‌خبری از هویت مدل‌ها قراره بیشتر و بیشتر بشه و ردیابی سیستم‌ها رو به یه کلاف سردرگم تبدیل کنه.
منبع
Nathan Calvin@_NathanCalvin
"The researchers could not identify which AI model was used to power the agents."
^ this seems like an underrated fact - most of the time when this stuff happens (which it will keep happening), we are going to increasingly have no idea which model was used
۲۶ مرداد ۱۴۰۵مشاهده در X
بیشتر بخوانید
بچه‌های آنتروپیک با یه دانشگاه سوئیسی یه تحقیق مشتی دادن بیرون و نشون دادن ایجنت‌های هوش مصنوعی می‌تونن قشنگ مخ همدیگه رو بزنن و مثل کرم‌های کامپیوتری، دستورات نامربوط رو به جون هم بندازن
شرکت انتروپیک یه راهکار مشتی برای حل یکی از بزرگ‌ترین دردسرهای ایجنت‌های هوش مصنوعی رو کرده
بچه‌های خفن دانشگاه استنفورد تو یه تحقیق تازه نشون دادن چرا پرامپت‌های ثابت و بازنویسی کاملشون، ایجنت‌های هوش مصنوعی رو کَلّه‌پا می‌کنه و باعث افت شدید دقتشون میشه
دانشمندا اومدن یه آزمایش مشتی زدن و دیدن وقتی هزار تا ایجنت هوش مصنوعی رو می‌ریزن توی یه اتاق مجازی، اینا خودبه‌خود و بدون اینکه کسی مجبورشون کنه با هم هم‌نظر و هم‌صدا می‌شن
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.