@zakariaornotیه کاربر به نام زکریا توی ایکس نوشته که یه سری نتایج رو حسابی بررسی کرده و به نظرش گمراه‌کننده بودن
یه کاربر به نام زکریا توی ایکس نوشته که یه سری نتایج رو حسابی بررسی کرده و به نظرش گمراه‌کننده بودن. به گفته خودش، عدد واقعی ۱۰۰۰ TPS در مقایسه با مبنای عمومی ۷۵۰ TPS هست. البته چون ادامه این بررسی و تصویرهای مربوط بهش توی محتوای ارسالی در دسترس نیست، دقیقاً معلوم نیست موضوع سر چیه و جزئیات بیشتری ازش نداریم. 🔍
منبع
Zakaria@zakariaornot
I took some time to investigate these results deeply and they're misleading. The real results are 1000 TPS vs the public baseline that is 750 TPS.
See investigation below:
Phil Howes @saltyph
we built an inference engine for deepseek v4.1-flash from scratch. the core engine is just rust + cuda. no pytorch, no sglang, no dsls, etc.
~1740 TPS decode on 4xB300, 2060TPS on 8xB300. 1M token prefill in ~12s.
it's up on github
۲۴ آبان ۱۴۰۵مشاهده در X
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.