اوپنایآی
@MadisonMills22
قضیه هوش مصنوعی انگار بدجوری داره از دست گردنکلفتها در میره؛ طبق گزارش تازه آکسیوس، غولهایی مثل OpenAI و آنتروپیک افتادن دنبال بررسی دهها هزار خطای جدی و رفتار نگرانکننده تو مدلهای پیشرفتهشون
قضیه هوش مصنوعی انگار بدجوری داره از دست گردنکلفتها در میره؛ طبق گزارش تازه آکسیوس، غولهایی مثل OpenAI و آنتروپیک افتادن دنبال بررسی دهها هزار خطای جدی و رفتار نگرانکننده تو مدلهای پیشرفتهشون. صحبت از چهار تا باگ ساده نیست، بلکه پای هزاران موردی وسطه که این هوشهای مصنوعی سر خود دست به اقداماتی زدن که ناظران امنیتی رو حسابی شوکه کرده. ابعاد این ماجرا فرسنگها پیچیدهتر و عمیقتر از اون چیزیه که تا حالا علنی شده و حالا این سوال بزرگ پیش اومده که اصلاً کسی روی این فناوری تسلط کامل داره یا نه. خلاصه ظاهراً هرچی این مدلها پرچمدارتر و خفنتر میشن، رفتارهای غیرقابلپیشبینی و خطراتشون هم بیشتر به یه معضل همیشگی تبدیل میشه.
منبع
Madison Mills@MadisonMills22
SCOOP: OpenAI, Anthropic and security researchers are investigating tens of thousands of incidents - not dozens - in which their frontier models took steps that outside evaluators would consider problematic, sources told Axios.
The sheer volume of incidents found in our reporting indicate that the problem is orders of magnitude more complex than what is currently publicly known and disclosed.
The findings also raise questions about what level of control anyone working on AI development can expect to have over their own technology, and whether these kinds of incidents are becoming synonymous with frontier deployment.
Read my latest for Axios here: https://www.axios.com/2026/09/26/openai-anthropic-thousands-ai-security-incidents
۵ مهر ۱۴۰۵مشاهده در X
.png&w=320&we&output=webp&q=80)


نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.