بچه‌های دیپ‌سیک رسماً گل کاشتن و نشون دادن تو دنیای هوش مصنوعی حسابی کاردرستن

بچه‌های دیپ‌سیک رسماً گل کاشتن و نشون دادن تو دنیای هوش مصنوعی حسابی کاردرستن. ماجرا از این قراره که این غول چینی تونسته ظرف همین ۹ ماه گذشته، حجم کشِ کِی‌وی (KV Cache) به ازای هر توکن رو ۵۴ برابر فشرده‌تر و جمع‌وجورتر کنه. واسه این‌که عمق ماجرا دستت بیاد، این کَش همون حافظه‌ایه که مدل برای یادآوری کلمات قبلی استفاده می‌کنه و قبلاً یه خروار از رَم گرافیک رو قورت می‌داد، اما حالا با یه کسری از اون حافظه کارش راه می‌افته. با این دست‌فرمون مهندسی، مدل‌ها موقع چت‌های فوق‌العاده طولانی دیگه نفس‌تنگه نمی‌گیرن و سیستم بالا نمی‌اره.