طبق گزارش‌ها مدل جدید اوپن‌ای‌آی به اسم «آسترا» از یه سازوکار خفن به اسم «ترانسفورمر حلقه‌ای» استفاده می‌کنه که اطلاعات رو قبل تولید خروجی، چند دور تو لایه‌ها می‌چرخونه

طبق گزارش‌ها مدل جدید اوپن‌ای‌آی به اسم «آسترا» از یه سازوکار خفن به اسم «ترانسفورمر حلقه‌ای» استفاده می‌کنه که اطلاعات رو قبل تولید خروجی، چند دور تو لایه‌ها می‌چرخونه. با این شگرد، مدل بدون اینکه تعداد پارامترها و مصرف حافظه‌ش الکی باد کنه، مثل یه غول سنگین‌وزن توان محاسباتی نشون میده. منتها گیر ماجرا اینجاست که فکر کردن و استدلالش بیشتر تو حالت‌های عددیِ درونی پنهان می‌شه و شفاف نیست، واسه همین نظارت و سر درآوردن از کارش برای آدما حسابی سخت شده. تازه داستان وقتی جدی‌تر می‌شه که بدونیم آسترا به سطح بحرانی توی امنیت سایبری رسیده و می‌تونه به‌تنهایی تو سیستم‌های سفت‌وسخت رخنه کنه و باگ پیدا کنه.

منبع

Rohan Paul@rohanpaul_ai

The information reports Astra reportedly uses "recurrent depth," or a "looped transformer," which helped its performance while making some internal reasoning less readable. A looped transformer, or recurrent-depth model, can run the same information through the same transformer layers multiple times before producing the next token, instead of passing through each layer just once in a fixed stack. That gives the model more computation per token without proportionally increasing its parameter count, potentially letting a smaller model behave more like a larger one while using less memory and bandwidth. The concern is that more of this reasoning can happen inside internal numerical states rather than readable chain-of-thought text, making human monitoring harder.

Rohan Paul @rohanpaul_ai

OpenAI says Astra is its first model to reach the Critical cybersecurity capability threshold. Under its Preparedness Framework, that means Astra can, with the right tools and access, find unknown flaws and develop exploits across hardened systems without step-by-step human guidance. Hence, OpenAI now says Astra will launch with additional chain-of-thought monitoring, while classifiers can automatically stop potentially unauthorized actions. Astra reached roughly 39% exploit success at ~75K output tokens, while GPT-5.6 Sol is only around 1% there and needs nearly 140K tokens to reach ~12% i.e. Astra is dramatically more capable and token-efficient at exploit development on this internal benchmark. Expert assessments went further: Astra escaped a browser sandbox, executed host commands, and escalated an unprivileged operating-system user to root.

۱۱ شهریور ۱۴۰۵مشاهده در X

منبع

نظرها

بیشتر بخوانید

تنظیمات

ظاهر و متن

خواندن و نمایش

استوری‌ها

صدا

اعلان‌ها و موضوع‌ها

صدای فارسی

راه‌های دیگر

ویدیوی خبر

گفتگو