اوپن‌ای‌آی
@sama
@samaسم آلتمن مدیر اوپن‌ای‌آی رسماً پشت حرف داریو آمودی، رئیس آنتروپیک دراومده و گفته ما هم موافقیم که باید یکم ترمز پیشرفت جنون‌آمیز هوش مصنوعی رو کشید و با حساب‌کتاب جلو رفت
سم آلتمن مدیر اوپن‌ای‌آی رسماً پشت حرف داریو آمودی، رئیس آنتروپیک دراومده و گفته ما هم موافقیم که باید یکم ترمز پیشرفت جنون‌آمیز هوش مصنوعی رو کشید و با حساب‌کتاب جلو رفت. ماجرا اینه که داریو یه برنامه برای کند کردن این سرعت سرسام‌آور داده و متعهد شده که به ارزیاب‌های مستقل بیرونی دسترسی در حد کارمندای خود شرکت بده تا مدل‌ها رو موشکافی کنن. آلتمن هم اعلام کرد دقیقاً چند هفته‌ست توی اوپن‌ای‌آی دارن سر همین قضیه چکش‌کاری می‌کنن و اونا هم قراره همین رویکرد رو پیش بگیرن و به ناظران مستقل دسترسی کامل بدن. خلاصه داداش و آبجی گلم، قراره به زودی خبرهای بیشتری از این ماجرای نظارت سفت‌وسخت منتشر کنن.
منبع
Sam Altman@sama
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon.
Dario Amodei @DarioAmodei
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our systems, so that they can verify adherence to our safety measures, report on incidents, and assess models’ alignment during training.
You can read the full post here: https://darioamodei.com/post/we-must-pace-the-frontier
۲۱ شهریور ۱۴۰۵مشاهده در X
بیشتر بخوانید
بشنو از دنیای تکنولوژی که غول‌های گردن‌کلفت هوش مصنوعی رقابت رو موقتاً گذاشتن کنار و دست رفاقت به هم دادن
جیکوب کاکسون که سه سال تموم توی قلب ماجرا یعنی OpenAI و آنتروپیک روی پروژه‌های کلیدی هوش مصنوعی کار می‌کرده، دست از کار کشیده و استعفاشو کوبیده رو میز
زک ورهیز، افشاگر سابق گوگل، به نقل از اندرو یانگ یه خبر برگ‌ریزون داده و میگه ترمز پیشرفت هوش مصنوعی الکی کشیده نشده
بچههای شرکت پنتوگراف اومدن یه تست درست‌وحسابی راه انداختن تا ببینن توی کنترل ربات‌ها، «جی‌پی‌تی-۶ آسترا» زرنگ‌تره یا «کلود فیبل ۵.۱»
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.