متنباز
@whitecircle
تیم White Circle تازه از یه فریمورک تر و تمیز به اسم Halo رونمایی کرده که خوراکِ پسآموزش و بهینهسازی مدلهای هوش مصنوعی منبعبازه
تیم White Circle تازه از یه فریمورک تر و تمیز به اسم Halo رونمایی کرده که خوراکِ پسآموزش و بهینهسازی مدلهای هوش مصنوعی منبعبازه. حرف حساب این بچهها اینه که هالو تا ۲.۸ برابر نسبت به فریمورک استاندارد TRL سرعت و بازدهی بالاتری میده و همزمان اوج مصرف حافظهش هم به مراتب پایینتره. نکته جذاب دیگهش هم اینجاست که خروجی مدلها تو همون فرمت استاندارد هاگینگفیس باقی میمونه و دیگه هیچ دنگوفنگی برای تبدیل و هماهنگسازی نداری.
منبع
White Circle@whitecircle
Introducing Halo, the best framework for post-training of open-source models.
Halo delivers up to 2.8x the throughput of stock TRL with less peak memory, while models stay in their native HuggingFace format.
Star us on GitHub: https://github.com/whitecircle/halo
۳۰ شهریور ۱۴۰۵مشاهده در X
GitHub
GitHub - whitecircle/halo: Halo is an open-source framework built by White Circle for training large language and multimodal models
Halo is an open-source framework built by White Circle for training large language and multimodal models - whitecircle/halo
خواندن در سایت منبع


نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.