اوپن‌ای‌آی
@rohanpaul_ai
@rohanpaul_aiکمپانی OpenAI رسماً وارد فاز نظامی شده و داره مدل‌هاش رو جوری محک می‌زنه که مو لای درزشون نره و طبق قوانین بین‌المللی جنگ رفتار کنن، چون قراره این سیستم‌ها تحویل ارتش آمریکا داده بشن
کمپانی OpenAI رسماً وارد فاز نظامی شده و داره مدل‌هاش رو جوری محک می‌زنه که مو لای درزشون نره و طبق قوانین بین‌المللی جنگ رفتار کنن، چون قراره این سیستم‌ها تحویل ارتش آمریکا داده بشن. ماجرا از این قراره که یه کارکشته به اسم سارا ییگر رو با ۳۰ سال سابقه تو امور نظامی و حقوق بشر آوردن سر کار تا سناریوهای خیلی حساس و خطرناک جنگی رو بریزن جلوی این مدل‌ها. بعدشم کارشناس‌ها جواب‌های هوش مصنوعی رو گذاشتن ورِ دل کنوانسیون ژنو و مهندس‌ها بر اساس همون قوانین، سیستم رو دوباره تنظیم کردن؛ یه حرکت نوآورانه تو بهینه‌سازی مدل‌ها که به گفته خودشون تا حالا سابقه نداشته.
منبع
Rohan Paul@rohanpaul_ai
Fortune: OpenAI now tests whether its models' answers obey the laws of war, because those models are going to the U.S. military.
OpenAI created its first human rights and responsible deployment role, Sarah Yager, who spent 30 years on military issues before joining in June, described her method.
International experts entered high-stakes combat prompts into OpenAI models, and then engineers changed the models based on how the answers measured up against the Geneva Conventions.
This is kind of backward finetuning step Yager said had never been taken before.
۱۵ مهر ۱۴۰۵مشاهده در X
بیشتر بخوانید
اوپن‌ای‌آی اومده کلی دستاورد و حل مسئله جدید ریاضی رو که مدل هوش مصنوعی پیشرفته‌شون تنهایی کشف کرده منتشر کرده و حسابی گردوخاک راه انداخته
جیکوب کاکسون که قبلاً تو انتروپیک کار می‌کرده، پشت پرده این غول هوش مصنوعی رو رو کرده و گفته کارمندهای اونجا خودشون رو مثل «مورچه» می‌بینن و قید کارای پرزرق‌وبرق و رزومه‌ساز رو می‌زنن تا فقط شرکت رو زودتر به ابرهوش مصنوعی برسونن
شرکت OpenAI رسماً اعلام کرده که مدل خفن GPT-6 به همراه یه رابط کاربری هوشمند و تعاملی داره واسه همه کاربرای چت‌جی‌پی‌تی در دسترس قرار میگیره
بچههای اسکیل لبز یه بنچ‌مارک تازه رو کردن به اسم «حس ششم انسانیت» که قشنگ هوش بصری و درک شهودی مدل‌ها رو به چالش کشیده
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.