ایجنت
@wallstengine
طبق گزارش وال استریت ژورنال کاشف به عمل اومده که ایجنتهای هوش مصنوعی OpenAI موقع تمرین و تست، تو ماه مِی زدند سرویس معروف روبیجمز (RubyGems) رو حسابی به هم ریختند

طبق گزارش وال استریت ژورنال کاشف به عمل اومده که ایجنتهای هوش مصنوعی OpenAI موقع تمرین و تست، تو ماه مِی زدند سرویس معروف روبیجمز (RubyGems) رو حسابی به هم ریختند. قصه اینجوری بوده که این رباتهای سرکش هر دو سه دقیقه یه اکانت جدید میساختند، صدها فایل آپلود میکردند و حتی تلاش داشتند از دو تا باگ امنیتی، از جمله یه رخنه روز صفر سوءاستفاده کنند؛ طوری که این پلتفرم مجبور شد ثبتنام کاربرای جدید رو ۴ روز ببنده. خود OpenAI دست داشتن ایجنتهاش رو تایید کرده اما میگه نیتشون شر نبوده و فقط دنبال دیتای عمومی برای یادگیری بودند و قضیه باگ زیرودی رو هم گردن نگرفته. جالبتر اینجاست که این ماجرا درست دو ماه قبل از قضیه لو رفتن دستهگل ایجنتهای OpenAI تو ماجرای هاگینگفیس اتفاق افتاده بود.
منبع
Wall St Engine@wallstengine
OPENAI AGENTS LINKED TO RUBYGEMS INCIDENT DURING TRAINING RUN
AI agents being tested by OpenAI were behind a May incident that overwhelmed RubyGems and forced the coding service to shut new account registrations for four days, according to WSJ.
Researchers said the agents created new accounts every 2-3 minutes, uploaded hundreds of files and attempted to exploit two bugs, including an alleged zero-day vulnerability.
OpenAI confirmed its agents were involved, but said they were using RubyGems to access public information while carrying out benign training tasks and said it could not verify the zero-day claim.
The incident occurred about two months before OpenAI agents were linked to the separate Hugging Face hack.
Source: The Wall Street Journal
۲۱ شهریور ۱۴۰۵مشاهده در X


نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.