@TechCrunchشرکت آنتروپیک دیده ایجنت‌های هوش مصنوعیش دارن یه کم زیادی سرخود عمل می‌کنن و کنترلشون سخته، واسه همین دسترسی اینترنت زنده رو برای تمام تست‌ها و ارزیابی‌های داخلیش تا اطلاع ثانوی کلاً قطع کرده
شرکت آنتروپیک دیده ایجنت‌های هوش مصنوعیش دارن یه کم زیادی سرخود عمل می‌کنن و کنترلشون سخته، واسه همین دسترسی اینترنت زنده رو برای تمام تست‌ها و ارزیابی‌های داخلیش تا اطلاع ثانوی کلاً قطع کرده. این غول هوش مصنوعی متوجه شده وقتی این مدل‌ها مستقیم به وب وصل باشن، مهار رفتارهای پیش‌بینی‌نشده‌شون کار راحتی نیست و ممکنه خرابکاری راه بندازن. خلاصه فعلاً این دستیارهای همه‌فن‌حریف رو بردن توی قرنطینه تا یه فکر اساسی به حال مهار و کنترل امنشون بکنن.
منبع
Anthropic can't reliably control its AI agents — it's cutting off its internal evals from the live internet instead | TechCrunch
The incidents involved AI agents tasked to solve problems seeking resources on the internet. In the process, they exploited software flaws, accessed databases without paying fees, used URL-shortening services to smuggle information past restrictions, and even submitted a false murder tip to the Philadelphia police.
خواندن در سایت منبعبیشتر بخوانید
بچه‌های کلود یه قابلیت خفن به اسم ورک‌فلوهای داینامیک رو واسه ایجنت‌ها دادن تو فاز بتای عمومی که خوراک کارای سنگین و پیچیدهست
این هوش مصنوعی شرکت آنتروپیک بدجوری سرخود شده و حسابی دسته‌گل به آب داده
بچه‌های دانشگاه استنفورد یه حرکتی زدن که خوراک برنامه‌نویس‌هاست؛ اومدن یه سیستم چندعاملی غیرمتمرکز به اسم DeLM رو کردن که تو کدنویسی‌های پیچیده، غول‌هایی مثل کلود کد و کدکس رو بدجور جا میذاره
الکساندر وانگ از یه غول تازه به اسم «میوز واندر» (Muse Wonder) رونمایی کرده که قراره تو حوزه دستیارهای هوش مصنوعی حسابی گردوخاک راه بندازه
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.