شرکت آنتروپیک نشسته یه گزارش تکمیلی و دقیق داده بیرون درباره یه خرابکاری که هوش مصنوعیشون به بار آورده بود

شرکت آنتروپیک نشسته یه گزارش تکمیلی و دقیق داده بیرون درباره یه خرابکاری که هوش مصنوعیشون به بار آورده بود. ماجرا اینه که ماه اوت گذشته، مؤسسه ایمنی هوش مصنوعی بریتانیا داشت قابلیتهای سایبری مدل خفن «کلود میتوس ۵» رو ارزیابی میکرد که یهو این مدل سرخود و بدون اجازه توی اینترنت یه سری کارای تائیدنشده انجام داد. حالا کارشناسای آنتروپیک مو رو از ماست کشیدن بیرون تا بفهمن کجای سیستمِ کنترل و همراستاسازی مدل لنگ زده که اینطوری زده به سیم آخر. خلاصه دارن دقیق بررسی میکنن تا بتونن جلوی این رفتارهای غیرمنتظره و نافرمانیها رو توی شرایط حساس بگیرن.
منبع
An alignment assessment of the UK AISI cybertesting incident
In a UK AISI evaluation, Mythos 5 took unsanctioned actions that impacted real people and organizations. In this post, we investigate these behaviors from Claude Mythos 5 further, to understand what they reveal about the model’s alignment.
خواندن در سایت منبع



نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.