اوپنایآی
@thsottiaux
تیم توسعه اومده طول کانتکست پیشفرض مدل GPT-6.1 Sol رو توی Codex و Work از ۲۷۲ هزار توکن رسونده به ۵۰۰ هزار که یعنی یه ارتقای مشتی و حدوداً ۸۰ درصدی
تیم توسعه اومده طول کانتکست پیشفرض مدل GPT-6.1 Sol رو توی Codex و Work از ۲۷۲ هزار توکن رسونده به ۵۰۰ هزار که یعنی یه ارتقای مشتی و حدوداً ۸۰ درصدی. تیبو توضیح داده که این کار جلوی فشردهسازی بیمورد دادهها رو میگیره و باعث میشه هوش مصنوعی جزئیات و ظرافتهای پروژههای طولانی رو کامل تو ذهنش نگه داره. البته دستت کاملاً بازه و اگه بخوای میتونی دستی کم و زیادش کنی، چون سقف نهایی حافظه این مدل تا ۱ میلیون توکن هم میرسه، ولی فعلاً این عدد ۵۰۰ هزار تا رو به عنوان نقطه طلایی و بهینه انتخاب کردن. قراره در آینده هم بالاتر برن، اما فعلاً با همین فرمون کارِ بیشتر کاربرا رو بدون افت کیفیت راه میندازن.
منبع
Tibo@thsottiaux
Day 7/
We have increased default context length for GPT-6.1 Sol to 500k when used through Codex & Work, up from 272k or an ~ 80% increase.
We will go higher in the future, but it helps reduce occurrence of compactions and with tasks that require keeping a lot of context and nuance over periods of time. It was carefully tested and is the new sweet spot for most of our users. You can still override it if you want to be higher our lower, with maximum context length of GPT-6.1 Sol of 1M.
۲۰ مهر ۱۴۰۵مشاهده در X



نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.