ایجنت
@rohanpaul_ai
انویدیا یه مقاله جدید داده بیرون که میگه واسه پیدا کردن بهترین مدل زبانی پایه برای ایجنتهای برنامهنویسی، نباید خودت رو درگیر ارزیابی تکتک قدمهای کار کنی

انویدیا یه مقاله جدید داده بیرون که میگه واسه پیدا کردن بهترین مدل زبانی پایه برای ایجنتهای برنامهنویسی، نباید خودت رو درگیر ارزیابی تکتک قدمهای کار کنی. ماجرا اینه که پستترِینینگ مدلها خرج سنگینی روی دست شرکتها میذاره و از اون طرف بنچمارکهای ساده هم اصلاً نشون نمیدن کدوم مدل خام در آینده ایجنت بهتری از آب درمیاد. حالا بچههای انویدیا اومدن مسیر موفق ایجنتهای قوی رو بازپخش کردن و فهمیدن راز کار اینه که مدل رو فقط سر همون ادیت سرنوشتسازی که تستها رو سبز میکنه محک بزنی؛ همین فرمول ساده با ضریب همبستگی خیرهکننده ۰.۹۶۴ تونسته نتیجه نهایی مدلها روی SWE-bench رو دقیق پیشبینی کنه.
منبع
Rohan Paul@rohanpaul_ai
New Nvidia paper shows scoring base models on every step of an agent run works worse than scoring them only on the edit that first makes the tests pass.
Post-training is expensive, so picking the right base model matters. Yet agent benchmarks score base models near zero, and simple coding tests barely predict later agent skill.
They replay a strong agent's successful run and rerun the tests after each edit to find the 1st edit that makes them pass. At this decisive step they test whether a base model favors that edit, picks it over failing edits, and can write a passing one.
How likely each base model was to write that exact edit ranked the same 10 models in line with their post-trained SWE-bench Verified scores, at 0.964.
When choosing a base model to post-train for agent work, run this check first. It needs only a benchmark's successful agent runs and its tests.
۲۰ مهر ۱۴۰۵مشاهده در X
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.