مایکروسافت
@rohanpaul_ai
@rohanpaul_aiمایکروسافت رسماً اومده یه چشمه از قدرتش رو نشون داده و مدل خفن و متن‌باز DeepSeek V4 Flash با ۲۸۴ میلیارد پارامتر رو به‌صورت محلی روی ویندوز بالا آورده
مایکروسافت رسماً اومده یه چشمه از قدرتش رو نشون داده و مدل خفن و متن‌باز DeepSeek V4 Flash با ۲۸۴ میلیارد پارامتر رو به‌صورت محلی روی ویندوز بالا آورده. این غول بی‌شاخ‌ودم رو با کوانتیزاسیون ۱.۶ بیتی انقدر جمع‌وجور کردن تا حجم مصرف رمش به حدود ۶۰ گیگابایت برسه و بشه مهارش کرد. از اون طرف هم واسه این نمایش از سرفیس لپ‌تاپ اولترای جدید مجهز به چیپ RTX Spark انویدیا استفاده کردن که با رم یکپارچه تا سقف ۱۲۸ گیگابایت، مثل آب خوردن این مدل رو قورت می‌ده. خلاصه بدون وصل شدن به سرورهای ابری و فقط با اتکا به سخت‌افزار خود لپ‌تاپ، دارن پردازش‌های سنگین هوش مصنوعی رو روی میز کارت می‌آرن.
منبع
Rohan Paul@rohanpaul_ai
Microsoft today showcased DeepSeek V4 Flash, a 284B-parameter open-weight model, runs locally on a Windows PC once quantized to 1.6 bits, which brings it down to about 60GB of memory.
Their new Surface Laptop Ultra, built on Nvidia's RTX Spark chip with up to 128GB of unified memory, has room for it in its higher-memory configurations.
----
Full video on "Windows" YouTube channel, (link in comment)
۱۶ مهر ۱۴۰۵مشاهده در X
بیشتر بخوانید
مایکروسافت اومده یه غول بی‌تربیت به اسم MAI-Base-2 معرفی کرده که با معماری MoE، نزدیک ۲.۸ تریلیون پارامتر کل و ۸۰ میلیارد پارامتر فعال داره و عملاً همه مدل‌های متن‌باز گُنده مثل دیپ‌سیک رو جا گذاشته
بچههای فنی متا بالاخره دست‌به‌خیر شدن و ابزار Rebalancer رو که بیش از ۹ سال توی زیرساخت‌هاشون برای تخصیص و چینش منابع استفاده می‌کردن، به شکل متن‌باز در اختیار عموم گذاشتن
برایان آرمسترانگ مدیرعامل کوین‌بیس اومده رو کرده که یه مدل هوش مصنوعی متن‌باز کوچیک به اسم Qwen رو با داده‌های اختصاصی شرکتشون واسه ردگیری کلاهبرداری تیون کردن و نتیجه حسابی شگفت‌انگیز بوده
بچههای کلودفلر با یه مدل تر و تمیز به اسم Clef اومدن و توی دو هفته، مدل معروف Jev رو قشنگ جا گذاشتن
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.