آنتروپیک
@EvanHub
قضیه این هوش مصنوعی انگار شوخیشوخی داره جدی میشه؛ ایوان هوبینگر، پژوهشگر ارشد شرکت انتروپیک، آب پاکی رو ریخته رو دست همه و گفته ما واقعاً و از ته دل معتقدیم هوش مصنوعی ممکنه کل نسل بشر رو به باد بده
قضیه این هوش مصنوعی انگار شوخیشوخی داره جدی میشه؛ ایوان هوبینگر، پژوهشگر ارشد شرکت انتروپیک، آب پاکی رو ریخته رو دست همه و گفته ما واقعاً و از ته دل معتقدیم هوش مصنوعی ممکنه کل نسل بشر رو به باد بده. طرف رسماً اعلام کرده که به نظر شخصیش، احتمال نابودی کامل آدما به دست این فناوری توی همین ده سال آینده بالای ۱۰ درصده و این حرف اصلاً یه مانور تبلیغاتی نیست. تازه بعدشم اضافه کرده که با وجود تمام تلاشهاشون توی انتروپیک، واقعیت اینه که هنوز هیچ نقشه و راهکار قطعی برای مهار و کنترل هوش فراانسانی ندارن و معلوم نیست بتونن از پسش بربیان. خلاصه سازندههای اصلی این غولهای دیجیتالی دارن اعتراف میکنن که همکاراشون تو مصاحبهها محتاطن، اما پشت صحنه عمیقاً از آینده این ماجرا وحشت دارن.
منبع
Evan Hubinger@EvanHub
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.
Jacob Coxon @hilbertspaess
The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible - but I hear the same people express fear privately. No other human activity poses this level of danger.
۱۸ شهریور ۱۴۰۵مشاهده در X



نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.