کدنویسی@ClementDelangue

بچه‌های هاگینگ‌فیس اومدن یه حرکت تمیز زدن و ابزارهای معروف کدنویسی مثل Claude Code و Codex و OpenCode رو بدون دستکاری، تبدیل کردن به محیط آموزش یادگیری تقویتی (RL)

بچه‌های هاگینگ‌فیس اومدن یه حرکت تمیز زدن و ابزارهای معروف کدنویسی مثل Claude Code و Codex و OpenCode رو بدون دستکاری، تبدیل کردن به محیط آموزش یادگیری تقویتی (RL). قضیه اینه که یه پروکسی واسط ساختن که فرمت‌های مختلف ای‌پی‌آی رو می‌فهمه و داده‌ها رو تر و تمیز میده دست vLLM و کتابخونه TRL تا هوش مصنوعی درست توی همون محیط واقعی که قراره کار کنه، آموزش ببینه و قلق‌گیری بشه. توی تست‌هاشون روی یه مدل جمع‌وجور نشون دادن که با این روش و تعیین پاداش هوشمندانه، تونستن تعداد صدا زدن ابزارها رو ۳۱ درصد کم کنن و خروجی مدل رو توی چندتا محیط هم‌زمان از ۴۲ به ۵۴ درصد برسونن که حتی آموزش نظارت‌شده (SFT) هم به گردش نرسید. کل کدها، پروکسی و مدل‌ها هم کاملاً متن‌باز و عمومی منتشر شده تا هر کی خواست بره حالشو ببره.

منبع

clem 🤗@ClementDelangue
We turned Claude Code, Codex, Hermes, Pi, @opencode and other coding harnesses into RL environments. No changes to the harnesses, no changes to the training code. Any open model, any task set, fully open source my friends! Same model, same weights: 62% under Mini-SWE-Agent, 33% under Claude Code. But training inside a real harness normally means reimplementing it as an environment, so most models get trained in a scaffold nobody actually ships. The fix is a proxy, not a rewrite. The harness thinks it's talking to a model API. It's actually talking to a capture proxy that speaks the 4 formats coding agents use (OpenAI Chat Completions, OpenAI Responses, Anthropic Messages, Gemini), forwards to @vllm_project, records the exact token IDs and logprobs vLLM sampled, and hands TRL sequences it can train on. The harness becomes the environment. 10 harnesses run through it today, none modified. And because you control the reward, you can shape behavior the harness never asked for. We added a small bonus for solving a task in fewer tool calls: on tasks it already solved, the model now uses 31% fewer calls, in every harness, and about half under Codex. Tested on LFM2.5-2.6B from @liquidai: → Train in one harness: better mostly in that harness (OpenCode 34% → 58%). → Train in 4 at once: better in all 4 (42% → 54%). → SFT on 3,189 rollouts from Qwen3.8-27B instead: plateaus at 47.5%, below both RL runs. Everything is open and reproducible: the capture proxy in OpenEnv, the trainer in TRL, the tasks, the SFT data, the training code and all 7 trained models. Bigger models and bigger runs next. Full guide: https://huggingface.co/spaces/FineEnvs/multi-harness-rl
۱۳ مهر ۱۴۰۵مشاهده در X

نظرها

    بیشتر بخوانید

    تنظیمات

    پیش‌نمایش

    انویدیا از نسل تازه‌ی تراشه‌هایش رونمایی کرد؛ متن خبرها با همین اندازه و فاصله‌ی خطوط نمایش داده می‌شود. ۱۴۰۵ — 2026

    ظاهر و متن

    پوسته
    اندازه‌ی متن
    فاصله‌ی خطوط

    خواندن و نمایش

    نمای فهرست خبرها

    استوری‌ها

    چه خبرهایی پخش شوند
    ترتیب
    دیده‌شده‌هابدون باز کردن تک‌تک خبرها

    صدا

    اعلان‌ها و موضوع‌ها

    موضوع‌هایی که دنبال می‌کنیدهنوز هیچانتخاب موضوع‌ها

    صدای فارسی

    این دستگاه صدای فارسی ندارد. نمونه‌ی صداها را بشنوید و یکی را یک بار دانلود کنید تا خبرها و خلاصه‌ی روز را بشنوید.

    راه‌های دیگر

    ویدیوی خبر

    گفتگو

    … نفر آنلاین

      خواندن کامل