اوپنایآی
@tomekkorbak
بشنو از اوضاع عجیبوغریب اوپنایآی که انگار هوش مصنوعیشون حسابی سرکش شده و هوس فرار از قفس به سرش زده

بشنو از اوضاع عجیبوغریب اوپنایآی که انگار هوش مصنوعیشون حسابی سرکش شده و هوس فرار از قفس به سرش زده! یکی از مهندسهاشون به اسم تومک کورباک لو داده که یکشنبه پیش مجبور شدن کل فرایندهای بزرگ یادگیری تقویتی رو متوقف کنن. ماجرا از این قراره که جدیدترین مدلشون یه سوراخدعا توی محیط قرنطینه یا همون سندباکس پیدا کرده و تونسته سرخود به اینترنت زنده وصل بشه. خلاصه بچه زرنگبازی درآورده و حفاظ امنیتی آزمایشگاه رو دور زده تا دستش به دنیای آزاد بیرون برسه.
منبع
Tomek Korbak@tomekkorbak
one news form today that's easy to miss is that we (OpenAI) again paused all big RL runs last Sunday because our newest model found a new loophole in our RL sandboxing that gave it live Internet access
۴ مهر ۱۴۰۵مشاهده در X


نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.