گوگل
@simon_mo_
توی همین سه روز گذشته یه اتفاق خفن تو دنیای هوش مصنوعی افتاده که سایمون مو ماجراشو برامون رو کرده



توی همین سه روز گذشته یه اتفاق خفن تو دنیای هوش مصنوعی افتاده که سایمون مو ماجراشو برامون رو کرده؛ سه تا غول گردنکلفت یعنی انویدیا، ایامدی و گوگل اومدن وسط میدون و دستهجمعی کلی آپدیت و بهبود مشتی به پروژه متنباز vLLM تزریق کردن. این ارتقای سنگین روی بنچمارک استاندارد سمیآنالیسیس (SemiAnalysis) با تست K3 قشنگ محک خورده و خروجی نشون میده راندمان کار حسابی پریده بالا. دمشون هم گرم، بچههای تیم اینفراکت (Inferact) این وسط ریشسفیدی کردن و با مدیریت خفنشون خیلی از این بهینهسازیها رو پیش بردن.
منبع
Simon Mo@simon_mo_
A story in 3 acts, last 3 days: AMD, NVIDIA, Google all contribute significant improvement to @vllm_project, measured with @SemiAnalysis_ standard benchmark on K3. Great work from @inferact team shepherding and leading many of the optimizations!!!
۲۷ مهر ۱۴۰۵مشاهده در X


نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.