گوگل
@SemiAnalysis_
بچههای SemiAnalysis دست دوتا از مدلهای هوش مصنوعی یعنی Gemini 3.8 Flash و Muse Spark 1.3 رو بدجوری رو کردن و گفتن اینا فقط قپی درمیکنن و عملکردشون الکی باد شده

بچههای SemiAnalysis دست دوتا از مدلهای هوش مصنوعی یعنی Gemini 3.8 Flash و Muse Spark 1.3 رو بدجوری رو کردن و گفتن اینا فقط قپی درمیکنن و عملکردشون الکی باد شده. ماجرا از این قراره که این دوتا مدل توی تست Terminal Bench 2.1 پابهپای غولهایی مثل GPT-6 و Fable 5.1 اومده بودن و حسابی گردوخاک راه انداختن، اما تا پای نسخه جدید یعنی Terminal Bench 4.0 به میون اومد، عملکردشون افت فاحشی کرد و دستشون خالی موند. در واقع سازندهها این مدلها رو طوری دستکاری و اصطلاحاً «بنچمکس» کرده بودن که فقط تو همون آزمونهای تکراری و خاص نمره خوب دشت کنن، نه اینکه واقعاً زرنگ باشن.
منبع
SemiAnalysis@SemiAnalysis_
Gemini 3.8 Flash and Muse Spark 1.3 are two of the most clearly benchmaxxed models we've seen yet. Despite being comparable to both GPT-6 and Fable 5.1 on Terminal Bench 2.1, their Terminal Bench 4.0 performance is markedly worse. (1/5)🧵
۱۷ شهریور ۱۴۰۵مشاهده در X



نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.