اوپن‌ای‌آی
@steph_palazzolo
@steph_palazzoloبچه‌های اوپن‌ای‌آی تو مدل جدیدشون به اسم «استرا» رفتن سراغ یه روش استدلال تازه به نام «عمق بازگشتی» که حسابی سر و صدا کرده
بچه‌های اوپن‌ای‌آی تو مدل جدیدشون به اسم «استرا» رفتن سراغ یه روش استدلال تازه به نام «عمق بازگشتی» که حسابی سر و صدا کرده. این روش دست‌فرمون خفنی به هوش مصنوعی میده تا هم هزینه‌هاش کمتر بشه و هم قدرتش بره بالا، اما قضیه بی‌دردسر هم نیست. راستش دانشمندا و محققا بدجوری نگران شدن، چون این ترفند باعث میشه روند فکر کردن و دودوتا چهارتای مدل مثل یه جعبه سیاه قفل بشه و نشه فهمید پشت پرده چی می‌گذره. در نتیجه کنترل و نظارت روی کارهای این مدل خیلی سخت‌تر از قبل میشه و بحث امنیتش رفته زیر ذره‌بین.
منبع
Stephanie Palazzolo@steph_palazzolo
OpenAI’s Astra AI uses a new reasoning approach called “recurrent depth.” Though it can help model costs and performance, researchers are concerned bc it obscures a model’s thinking process, making it more difficult to monitor.
w/ @amir @rocketalignment
https://www.theinformation.com/articles/secret-technique-behind-openais-astra-model-sparks-security-concerns
۱۱ شهریور ۱۴۰۵مشاهده در X
بیشتر بخوانید
طبق گزارش‌ها مدل جدید اوپن‌ای‌آی به اسم «آسترا» از یه سازوکار خفن به اسم «ترانسفورمر حلقه‌ای» استفاده می‌کنه که اطلاعات رو قبل تولید خروجی، چند دور تو لایه‌ها میچرخونه
صحبتها سر یه ترفند جدید به اسم «عمق تکرارشونده» بالا گرفته که می‌گن اوپن‌ای‌آی توی مدل جدیدش به اسم آسترا برای تقویت استدلال به کار برده
امیر افراتی گزارش داده که اوپن‌ای‌آی و چندتا غول دیگه هوش مصنوعی، بی‌سر و صدا رفتن سراغ معماری جدیدی به اسم ترنسفورمرهای حلقه‌ای (Loop Transformers)
یاکوب پاچوکی از مغزهای متفکر اوپن‌ای‌آی اومده میدون تا جلوی شایعات غلط رو بگیره و نذاره رقابت به سمت ساخت مدل‌های غیرقابل‌نظارت بره
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.