اوپن‌ای‌آی
@Hesamation
@Hesamationسم آلتمن، رئیس اوپن‌ای‌آی، ظاهراً تو جمع کارمنداش گفته برای آینده و امنیت هوش مصنوعی کلاً سه تا پایان‌بندی بیشتر نداریم
سم آلتمن، رئیس اوپن‌ای‌آی، ظاهراً تو جمع کارمنداش گفته برای آینده و امنیت هوش مصنوعی کلاً سه تا پایان‌بندی بیشتر نداریم. حالت اول اینه که یه ناظر بین‌المللی سفت‌وسخت شبیه آژانس انرژی اتمی بیاد بالا سر کار و همه‌چیز رو رصد کنه؛ حالت دومم اینه که تمام آزمایشگاه‌های گردن‌کلفت هوش مصنوعی با هم ادغام بشن و یه تشکیلات غول‌آسا بسازن. اما سناریوی سوم که خود آلتمن هم اون رو وحشتناک و فاجعه دونسته اینه که یه شرکت تنهایی به هوش خوداصلاح‌گر برسه و اون‌قدر دست‌نیافتنی و پرزور بشه که عملاً تمام سرورها و کارت‌های گرافیک بقیه رقبا رو بسوزونه و دنیا رو دربست بگیره دستش.
منبع
ℏεsam@Hesamation
so Sam Altman apparently told OpenAI employees that there are possibly THREE endgames for AI safety:
1. an international nuclear-style watchdog
2. merge all major labs into a giant org
3. one company achieves RSI and gets so powerful it can literally “melt everyone else’s GPUs.”
and he called the 3rd option “terrible.”
crazy that we’re even at this point rn.
۲۸ مهر ۱۴۰۵مشاهده در X
بیشتر بخوانید
بچه‌های OpenAI با مدل‌های هوش مصنوعیشون حسابی گل کاشتن و توی زبان برنامه‌نویسی PHP که ستون فقرات نزدیک به ۷۰ درصد سایت‌های اینترنته، چندتا حفره امنیتی فوق‌العاده خطرناک کشف کردن
این هک اخیری که تو پلتفرم ریل‌وی اتفاق افتاده، طبق بررسی‌ها ظاهراً باز سر دزدیدن کلیدهای API اوپن‌ای‌آی و آنتروپیک بوده
سم آلتمن مدیرعامل اوپن‌ای‌آی یه حرفایی زده که رسماً مو به تن آدم سیخ می‌کنه؛ گفته مدل‌های هوش مصنوعی الان دارن باگ‌هایی رو در سطح سخت‌افزار پیدا می‌کنن که فراتر از تصور و توان هکرهای حرفهایه
بچه‌های OpenAI اعلام کردن که برای امنیت بیشتر، دسترسی مستقیم به اینترنت واقعی رو موقع آموزش مدل‌های خفنشون قطع کرده بودن و یه وب آفلاین و شبیه‌سازی‌شده براشون ساخته بودن
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.