دانشمندا اومدن یه آزمایش مشتی زدن و دیدن وقتی هزار تا ایجنت هوش مصنوعی رو می‌ریزن توی یه اتاق مجازی، اینا خودبه‌خود و بدون اینکه کسی مجبورشون کنه با هم هم‌نظر و هم‌صدا می‌شن
دانشمندا اومدن یه آزمایش مشتی زدن و دیدن وقتی هزار تا ایجنت هوش مصنوعی رو می‌ریزن توی یه اتاق مجازی، اینا خودبه‌خود و بدون اینکه کسی مجبورشون کنه با هم هم‌نظر و هم‌صدا می‌شن! مدل‌های قدرتمندی مثل کلود ۳.۵ سونیک و جی‌پی‌تی-۴ فقط با دیدن انتخاب بقیه، درست مثل ذرات آهن‌ربا طبق یه قانون فیزیکی همرنگ جماعت شدن و توی گروه‌های چندصد و چندهزارتایی به توافق کامل رسیدن. البته محققای این پژوهش هشدار دادن که این هم‌نظری خودجوش یه شمشیر دو لبه‌ست؛ چون این ایجنت‌ها می‌تونن بدون داشتن درک واقعی، جوگیر بشن و دسته‌جمعی روی یه تصمیم غلط یا خطرناک پافشاری کنن.
منبع
1,000 AI Agents Started Agreeing Without Anyone Telling Them To
Imagine filling a virtual room with 1,000 artificial intelligence (AI) agents and asking each one to choose between two meaningless options.
خواندن در سایت منبع1,000 AI Agents Started Agreeing Without Anyone Telling Them To
Imagine filling a virtual room with 1,000 artificial intelligence (AI) agents and asking each one to choose between two meaningless options.
خواندن در سایت منبعبیشتر بخوانید
بچه‌های خفن دانشگاه استنفورد تو یه تحقیق تازه نشون دادن چرا پرامپت‌های ثابت و بازنویسی کاملشون، ایجنت‌های هوش مصنوعی رو کَلّه‌پا می‌کنه و باعث افت شدید دقتشون میشه
بچه‌های آنتروپیک با یه دانشگاه سوئیسی یه تحقیق مشتی دادن بیرون و نشون دادن ایجنت‌های هوش مصنوعی می‌تونن قشنگ مخ همدیگه رو بزنن و مثل کرم‌های کامپیوتری، دستورات نامربوط رو به جون هم بندازن
علی قدسی مدیر دیتابریکس اومده راز رشد وحشتناک ۸۰ درصدی شرکتش توی درآمد ۷ میلیارد دلاری رو فاش کرده و گفته همه‌چیز زیر سر ایجنت‌های هوش مصنوعیه
بچه‌های تیم Composio اومدن دو تا غول هوش مصنوعی یعنی Grok 4.6 و DeepSeek-V4-Pro رو انداختن تو رینگ و روی ۳۰ تا مأموریت سخت و پیچیده ایجنتی تستشون کردن
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.