تراشه
@alexocheema
الکس چیما یه آمار و پیشبینی خفن داده و میگه پردازنده غولپیکر M5 Ultra با ظرفیت ۵۱۲ گیگابایت و پهنای باند وحشتناک ۱.۲ ترابایت بر ثانیه توی ماه اکتبر از راه میرسه


الکس چیما یه آمار و پیشبینی خفن داده و میگه پردازنده غولپیکر M5 Ultra با ظرفیت ۵۱۲ گیگابایت و پهنای باند وحشتناک ۱.۲ ترابایت بر ثانیه توی ماه اکتبر از راه میرسه. طبق گفته این کارشناس، پهنای باند این تراشه نسبت به M3 Ultra حدود ۵۰ درصد و در برابر سختافزارهایی مثل DGX Spark بیش از ۴ برابر قویتره. نکته جذاب ماجرا اینه که اگه چهار تا از این پردازندهها رو کنار هم استک کنی، میتونی مدلهای هوش مصنوعی سنگین مثل Kimi K3 یا GLM 5.3 رو با سرعت خارقالعاده بالای ۱۰۰ توکن در ثانیه، حتی سریعتر از API رسمیشون به شکل محلی اجرا کنی.
منبع
Alex Cheema@alexocheema
The 512GB M5 Ultra will ship in October with a massive 1.2TB/s memory bandwidth.
50% more memory bandwidth than M3 Ultra, 4.4x more than DGX Spark and M4 Pro.
Stacking 4 x M5 Ultra, I expect you'll be able to run Kimi K3 / GLM 5.3 faster than the API (>100 tok/sec).
Alex Cheema @alexocheema
@ivanfioravanti My guess would be October for M5 Ultra, so only two months to wait.
If we extrapolate the numbers we know from M3 Max to M5 Max we'd expect the M5 Ultra to have ~1.25TB/s memory bandwidth and ~110 TFLOPS (dense fp16).
2 Sparks are 546GB/s and ~200 TFLOPS (dense fp16).
۳ شهریور ۱۴۰۵مشاهده در X


نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.