چین
@deepseek_ai
بچههای دیپسیک باز گل کاشتن و این دفعه فریمورک اختصاصی خودشون واسه اجرای مدلها، یعنی DeepInfer رو کاملاً اوپنسورس و رایگان در دسترس همه گذاشتن
بچههای دیپسیک باز گل کاشتن و این دفعه فریمورک اختصاصی خودشون واسه اجرای مدلها، یعنی DeepInfer رو کاملاً اوپنسورس و رایگان در دسترس همه گذاشتن. این همون سیستمیه که مدل قدرتمند DeepSeek-V4.1-Flash رو با سرعت بالا، تاخیر فوقالعاده کم و بازدهی سنگین سرپا نگه داشته و حالا تمام زیرساخت تولیدش رو با کامیونیتی به اشتراک گذاشتن. هدفشون هم اینه که هزینههای سرسامآور سختافزار و مصرف برق هوش مصنوعی رو بکشن پایین تا استفاده از این فناوری واسه همه ارزونتر و در دسترستر بشه.
منبع
DeepSeek@deepseek_ai
🚀 Introducing DeepInfer, our in-house inference framework, now fully open source!
Powering DeepSeek-V4.1-Flash at scale with high throughput and low latency. We’re sharing our production stack to help the community lower compute costs, reduce energy use, and make AI more affordable.
🔗 http://github.com/deepseek-ai/DeepInfer
1/4
۲۸ مهر ۱۴۰۵مشاهده در X
GitHub
GitHub - deepseek-ai/DeepInfer: DeepInfer: High-performance, large-scale inference framework for DeepSeek models
DeepInfer: High-performance, large-scale inference framework for DeepSeek models - deepseek-ai/DeepInfer
خواندن در سایت منبع


نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.