آنتروپیک
@DarioAmodei
@DarioAmodeiداریو آمودی، رئیس شرکت آنتروپیک، یه مقاله تازه داده بیرون و سفت‌وسخت گفته که غول‌های هوش مصنوعی باید ترمز دستی سرعت پیشرفت رو بکشن و یه خورده آروم‌تر گاز بدن
داریو آمودی، رئیس شرکت آنتروپیک، یه مقاله تازه داده بیرون و سفت‌وسخت گفته که غول‌های هوش مصنوعی باید ترمز دستی سرعت پیشرفت رو بکشن و یه خورده آروم‌تر گاز بدن. خود شرکتش هم داوطلبانه استارت کار رو زده و اعلام کرده به کارشناس‌ها و ناظرای مستقل بیرونی، دسترسی هم‌سطح کارمندای خودشون میده تا بتونن شبانه‌روزی بیان تو دل سیستم‌ها و چک کنن. با این کار می‌خوان مطمئن بشن که اصول ایمنی مو‌به‌مو رعایت می‌شه، خرابکاری‌ها سریع گزارش داده بشه و موقع آموزش دادن مدل‌ها، هوش مصنوعی از مسیر امن خارج نشه.
منبع
Dario Amodei@DarioAmodei
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our systems, so that they can verify adherence to our safety measures, report on incidents, and assess models’ alignment during training.
You can read the full post here: https://darioamodei.com/post/we-must-pace-the-frontier
۲۱ شهریور ۱۴۰۵مشاهده در X
بیشتر بخوانید
سم آلتمن مدیر اوپن‌ای‌آی رسماً پشت حرف داریو آمودی، رئیس آنتروپیک دراومده و گفته ما هم موافقیم که باید یکم ترمز پیشرفت جنون‌آمیز هوش مصنوعی رو کشید و با حساب‌کتاب جلو رفت
صدها نفر از ریاضی‌دون‌های دانشگاه معتبر کلتک و دانشگاه‌های دیگه دست‌به‌یکی کردن و با یه بیانیه تند، خواستار لغو مسابقه‌ای به اسم «مثاتون» شدن
قضیه داره خیلی عجیب و دارک می‌شه؛ شرکت آنتروپیک یه گزارش امنیتی داده بیرون که مو به تن آدم سیخ میکنه
شرکت آنتروپیک، سازنده مدل‌های خفن کلود، به سرمایه‌گذاراش اعلام کرده که انتظار داره برای دو فصل پیاپی سوددهی خالص ثبت کنه
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.