توی قسمت چهل‌وپنجم این مجموعه ویدیوی یوتیوب، دست گذاشته روی مبحث خفن «Speculative Decoding» و به زبون فارسی سیر تا پیاز ماجرا رو باز کرده

توی قسمت چهل‌وپنجم این مجموعه ویدیوی یوتیوب، دست گذاشته روی مبحث خفن «Speculative Decoding» و به زبون فارسی سیر تا پیاز ماجرا رو باز کرده. داستان از این قراره که این تکنیک برای موشک کردن سرعت خروجی گرفتن از مدل‌های زبانی بزرگه تا کاربر پشت سیستم معطل نمونه. سازوکارش هم این‌طوریه که یه مدل فرز و فسقلی اول کلمات رو حدس می‌زنه و مدل غول‌پیکر اصلی فقط تأییدشون می‌کنه تا کار الکی طول نکشه و منابع هدر نره. خلاصه اگه توی باغ هوش مصنوعی و یادگیری ماشین باشی، این آموزش قلق‌های خیلی نابی برای بهینه‌سازی سیستم بهت میده.