@eliebakouchتا حالا فکر کردی تربیت مدل‌های غول‌پیکر هوش مصنوعی با یادگیری تقویتی چقدر پیاده‌ت می‌کنه
تا حالا فکر کردی تربیت مدل‌های غول‌پیکر هوش مصنوعی با یادگیری تقویتی چقدر پیاده‌ت می‌کنه؟ قضیه اینه که هزینه‌های مدل جدید MiMo V2.6 لو رفته و ارقامش رسماً مغز آدم رو سوت می‌کشه؛ نسخه پرو این غولِ یک تریلیون پارامتری، روزی ۴۹۳ هزار دلار و برای هر استپ تمرینش ۷۰ هزار دلار پول می‌بلعه! حتی مدل جمع‌وجورترش یعنی فلش با ۳۰۹ میلیارد پارامتر هم شوخی‌بردار نیست و خرجش روزی ۲۴۷ هزار دلار آب می‌خوره. خلاصه تیم تحقیقاتی بعد از شش ماه سکوت نشون داده که رسوندن یادگیری تقویتی به این ابعاد، رسماً یه چاه ویل برای سوزوندن دلاره.
منبع
elie@eliebakouch
cost of doing RL training at 1T scale
Mimo V2.6 Pro (1.02T total, 42B active param)
493k$ / day
70k$ / step
2.78$ / sample / trajectory
33.91$ / M tokens
Mimo V2.6 Flash (309B total, 15B active param)
247k$ / day
21k$ / step
0.86$ / sample / trajectory
9.25$ / M tokens
Fuli Luo @_LuoFuli
Nearly half a year of silence. We spent it studying one problem: how far RL can scale.
MiMo-V2.6 is in the middle of its RL run right now. Three things we scaled: compute (~2B tokens per step, 1568 prompts × 16 rollouts, fully async), environments and harnesses (multi-task agentic RL, mixed across multiple harnesses in one run), and grader compute (agentic in-group credit assignment, with test-case and rubric-based rewards). We'll open-source the details piece by piece over the coming weeks.
Streaming the run: https://mimo.xiaomi.com/rl/
۲۶ شهریور ۱۴۰۵مشاهده در X
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.