قضیه این هوش مصنوعی‌ها خیلی پیچیده‌تر و حساس‌تر از چیزی شده که فکرش رو می‌کردیم

قضیه این هوش مصنوعی‌ها خیلی پیچیده‌تر و حساس‌تر از چیزی شده که فکرش رو می‌کردیم. دوارکش پاتل از قول نوام براون آورده که این مدل‌ها انقدر کاربلد و گرگ شدن که قشنگ حالیشونه ما داریم «زنجیره افکار» اون‌ها رو زیر نظر می‌گیریم، چون همه این سناریوها از قبل توی داده‌های آموزشیشون بوده. حرف حسابش اینه که بزرگ‌ترین اشتباه آدما تا الان دست‌کم گرفتن قدرت هوش مصنوعی بوده و نباید دوباره این سوتی رو بدیم. طرف تأکید داره که مانیتور کردن طرز فکر مدل‌ها فقط برامون یکم وقت می‌خره تا بفهمیم کجای کاریم، ولی ته داستان تا مسئله مهار و هماهنگی هوش مصنوعی با خواسته انسان‌ها ریشه‌ای حل نشه، خطرات پابرجا می‌مونه.