@ClementDelangueایوان هابینگر، از محققای شرکت آنتروپیک، علناً گفته بیش از ۱۰ درصد احتمال می‌ده هوش مصنوعی تو همین ده سال آینده دخل کل بشریت رو بیاره و هنوزم هیچ برنامه‌ای واسه مهار این هیولا ندارن
ایوان هابینگر، از محققای شرکت آنتروپیک، علناً گفته بیش از ۱۰ درصد احتمال می‌ده هوش مصنوعی تو همین ده سال آینده دخل کل بشریت رو بیاره و هنوزم هیچ برنامه‌ای واسه مهار این هیولا ندارن. این وسط کلمنت دلنگ، هم‌بنیان‌گذار هاگینگ فیس، تیز اومده وسط و قشنگ یقه این مدعی‌ها رو چسبیده. کلمنت می‌گه اگه واقعاً به حرف خودتون باور دارین و اوضاع انقدر خطریه، باید صد برابر بیشتر از اینا روش کار و تحقیق بشه؛ نه اینکه همه چی رو پشت درهای بسته حبس کنین. حرف حسابش اینه که به جای پنهان‌کاری، مدل‌ها، کدها و کل دیتاست‌هاتون رو عمومی و متن‌باز کنین تا تمام دانشمندای دنیا بتونن سر از کارش دربیارن و جلوی این فاجعه ادعایی رو بگیرن.
منبع
clem 🤗@ClementDelangue
If they truly believe the risk is that high, and I think they do, then we need 100x more research and understanding of it. That requires them to openly share their models, datasets, training code, and agent traces.
Evan Hubinger @EvanHub
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.
۱۹ شهریور ۱۴۰۵مشاهده در X
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.