اوپن‌ای‌آی
@OpenAI
@OpenAIبچه‌های OpenAI اومدن گفتن هرچی این مدل‌های هوش مصنوعی قوی‌تر و خفن‌تر می‌شن، خطرات تست و توسعه داخلی‌شون هم از بیخ و بن بیشتر می‌شه
بچه‌های OpenAI اومدن گفتن هرچی این مدل‌های هوش مصنوعی قوی‌تر و خفن‌تر می‌شن، خطرات تست و توسعه داخلی‌شون هم از بیخ و بن بیشتر می‌شه. واسه همینم آموزش با یادگیری تقویتی (RL) رو روی جدیدترین مدل‌هاشون واسه دو هفته متوقف کردن تا قشنگ سیستم‌ها رو ضدگلوله کنن، تست‌های امنیتی و ردتیم بزنن و مانیتورینگ رو حسابی بالا ببرن. تازه اون بزرگ‌ترین ران آزمایشیِ مرز دانش خودشون رو هم فعلاً تو حالت تعلیق نگه داشتن تا اول روی پروژه‌های کوچیک‌تر مطمئن بشن که مدل‌ها به ساز آدم می‌رقصن و مهارشون کاملاً دست خودشونه.
منبع
OpenAI@OpenAI
As models become more capable, the risks associated with developing and testing them internally also grow.
We temporarily paused reinforcement learning (RL) training on our latest models intended for deployment for two weeks while we hardened and red-teamed our research environments and expanded monitoring coverage.
Our largest planned frontier RL run remains on hold while smaller-scale training and evaluations validate these safeguards and establish more evidence of alignment.
https://openai.com/index/pacing-model-development-cyber-capabilities/
۲۷ مرداد ۱۴۰۵مشاهده در X
بیشتر بخوانید
سم آلتمن رسماً اعلام کرده که شرکت OpenAI ترمز آموزش مدل‌های هوش مصنوعی جدیدش رو کشیده، چون مدل‌های معرفی‌نشده‌شون یه‌سری رفتارهای ناهماهنگ و خارج از کنترل نشون دادن
سم آلتمن رئیس OpenAI اعلام کرده که آموزش بعضی از مدل‌های فوق‌پیشرفته یادگیری تقویتی (RL) رو موقتاً متوقف کردن تا اول خیالشون از بابت امنیت، هم‌ترازی و نظارت روی این غول‌های جدید راحت بشه
و داداشای گلم، قضیه از این قراره که تیم کُدکس متوجه شده مدل GPT-5.6 موقع پاک‌سازی پوشه‌های موقت بعضی وقتا قاطی می‌کرده و اشتباهی ممکن بوده فایل‌های اصلی سیستم و پوشه هوم کاربر رو بفرسته هوا
ریپلیت یه حرکت مشتی زده و حالت رایگان پلتفرمش رو به مدل جدید GPT-5.6 Luna از شرکت OpenAI مجهز کرده
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.