چین
@bleysg
@bleysgطرف اومده اجرای مدل ۲۸۴ میلیارد پارامتری DeepSeek V4 Flash رو روی یه دونه DGX Spark صاف و پوست‌کنده ردیف کرده؛ با یه دستور نصب می‌شه و سرعتش تا ۱۰۰۰ توکن بر ثانیه‌ست، حسابی غولیه واسه خودش
طرف اومده اجرای مدل ۲۸۴ میلیارد پارامتری DeepSeek V4 Flash رو روی یه دونه DGX Spark صاف و پوست‌کنده ردیف کرده؛ با یه دستور نصب می‌شه و سرعتش تا ۱۰۰۰ توکن بر ثانیه‌ست، حسابی غولیه واسه خودش.
منبع
Bleys Goodson@bleysg
⚡ If you have or want a DGX Spark, this post might be the most important one you come across this month.
Serve the BEST model available (DeepSeek V4 Flash 07-31, 284B parameters) on ONE Spark @ 1,000 tok/s prefill, 59 tok/s multi-agent serving. One command to install. 🧵
۱۰ مرداد ۱۴۰۵مشاهده در X
بیشتر بخوانید
داستان طوری شده که همه دارن برا دیپ‌سیک هورا می‌کشن و تحویلش می‌گیرن، اون وقت لاما افتاده کنج اتاق و هیشکی نگاهشم نمیکنه
طرف اومده یه مدل زبانی ۳۵ میلیون پارامتری به اسم BarunLM ساخته که فقط با یه گرافیک H200 تمرین داده شده، ولی مدل‌های ۶ برابر بزرگ‌تر از خودش مثل lfm2.5-230m رو هم لوله میکنه
طرف اومده مدل DeepSeek-V4-flash رو لوکال اجرا کرده، میگه مدله عالیه؛ اما نکته عجیبش اینه که وقتی بهش گفته فارسی فکر کن، دستورات رو دور زده و فکر کرده گوگل دیپماینده
این کیمی کا ۳ با کوانت ۱-بیتی رو سیستم خودمون چنان فیزیک سه‌بعدی و وینچ تمیزی بالا آورده که هوش از سر آدم می‌پره؛ Opus هم به گرد پاش نمی‌رسه
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.