الکساندر پانفیلوف تازه رو کرده که یه باگ خفن توی ای‌پي‌آی تمام شرکت‌های بزرگ هوش مصنوعی پیدا کردن که باهاش می‌شه استدلال‌های مخفی و پشت‌صحنه‌ی مدل‌های پیشرفته رو کش رفت

الکساندر پانفیلوف تازه رو کرده که یه باگ خفن توی ای‌پي‌آی تمام شرکت‌های بزرگ هوش مصنوعی پیدا کردن که باهاش می‌شه استدلال‌های مخفی و پشت‌صحنه‌ی مدل‌های پیشرفته رو کش رفت. این رفقا تست هم کردن و دیدن تعداد توکن‌های تفکری که استخراج کردن دقیقاً مو به مو با اون چیزی که شرکتا واسه تفکر مدل فاکتور می‌زدن یکسان بوده. خلاصه رسماً نشون دادن اون بخشِ رازآلود و مخفی تفکر هوش مصنوعی اون‌قدرا هم که ادعا می‌کردن دست‌نپذیر و امن نبوده.