اوپن‌ای‌آی
@amir
@amirامیر افراتی گزارش داده که اوپن‌ای‌آی و چندتا غول دیگه هوش مصنوعی، بی‌سر و صدا رفتن سراغ معماری جدیدی به اسم ترنسفورمرهای حلقه‌ای (Loop Transformers)
امیر افراتی گزارش داده که اوپن‌ای‌آی و چندتا غول دیگه هوش مصنوعی، بی‌سر و صدا رفتن سراغ معماری جدیدی به اسم ترنسفورمرهای حلقه‌ای (Loop Transformers). قضیه از این قراره که این مدل‌ها وقتی بزرگ‌تر و مقیاس‌پذیر می‌شن، اصلاً مراحل و نحوه «فکر کردن» درونی‌شون رو نشون نمی‌دن. از یه طرف این کار یه جهش غول‌آسا توی کارایی و قدرت مدل‌ها به حساب میاد، اما از طرف دیگه حسابی صدا کرده. کارشناس‌ها، چه داخل خود اوپن‌ای‌آی و چه بیرون از شرکت، نگران بحث امنیت و غیرقابل‌پیش‌بینی بودن این سیستم‌ها شدن.
منبع
Amir Efrati@amir
new: OpenAI & others quietly using loop transformers that don't show their 'thinking' when scaled up
a leap forward on performance, but sparking concerns inside & outside OpenAI re: security as this takes off
۱۱ شهریور ۱۴۰۵مشاهده در X
بیشتر بخوانید
صحبت‌ها سر یه ترفند جدید به اسم «عمق تکرارشونده» بالا گرفته که می‌گن اوپن‌ای‌آی توی مدل جدیدش به اسم آسترا برای تقویت استدلال به کار برده
بچههای اوپن‌ای‌آی تو مدل جدیدشون به اسم «استرا» رفتن سراغ یه روش استدلال تازه به نام «عمق بازگشتی» که حسابی سر و صدا کرده
طبق گزارش‌ها مدل جدید اوپن‌ای‌آی به اسم «آسترا» از یه سازوکار خفن به اسم «ترانسفورمر حلقه‌ای» استفاده می‌کنه که اطلاعات رو قبل تولید خروجی، چند دور تو لایه‌ها میچرخونه
بشنو از اوپن‌ای‌آی که حسابی گرد و خاک کرده و داره خودش رو واسه عرضه مدل جدیدش به اسم «آسترا» آماده می‌کنه
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.