میگل تیسرا یه مدل جدید به اسم Tess-4.5-594B-A17B معرفی کرده که به گفتهٔ خودش تا امروز بهترین نسخهٔ تِس محسوب میشه
میگل تیسرا یه مدل جدید به اسم Tess-4.5-594B-A17B معرفی کرده که به گفتهٔ خودش تا امروز بهترین نسخهٔ تِس محسوب میشه. 🚀 این مدل بر پایهٔ Inkling 2 Small و روی پلتفرم Tinker از شرکت Thinking Machines با جلسات واقعی مهندسی نرمافزار آموزش داده شده تا هم استدلال عمیق و کدنویسی دقیقتری داشته باشه و هم لحنش گرم بمونه؛ تیسرا هم از این تیم بابت مدلی که آموزش دادن و با لایسنس Apache-2.0 منتشر کردن، حسابی تشکر کرده.
• اونطور که تیسرا گزارش داده، این نسخه تو بنچمارک SWE-Bench Pro v2 Hard تونسته ۸۸.۲ درصد مسئلهها رو حل کنه (در مقایسه با ۸۶.۳ درصدِ مدل پایه)، اونم با حدود ۱۰ درصد توکن کمتر.
• یه نکتهٔ فنی هم اضافه کرده که برای خراب نشدن دقت موقع ادغام LoRA، بهجای دستکاری وزنهای ۴ بیتی، آداپتور رو روی تنسورهای BF16 نگه داشته تا هم حجم فایل تغییر نکنه و هم روشهای قبلی اجرای مدل معتبر بمونه.
• خودش گفته با راهاندازی مدل روی سرویس Modal با دو تا B300 و هزینهٔ ساعتی ۱۵ دلار، کل روز باهاش کار کرده و خوشحاله که بالاخره یه مدل وزنباز غربی در سطح اول میبینه.
منبع
migtissera/Tess-4.5-594B-A17B · Hugging Face
Image-Text-to-Text model with 383B parameters. Download, explore files and run it on Hugging Face.
خواندن در سایت منبع

نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.