ایجنت@omarsar0

بچه‌های آی‌بی‌ام یه سیستم تر و تمیز به اسم JevAct طراحی کردن که مثل یه دروازه‌بان تیزبز بین ایجنت‌های هوش مصنوعی و ابزارهاشون قرار می‌گیره تا جلوی خرابکاری‌ها رو بگیره

بچه‌های آی‌بی‌ام یه سیستم تر و تمیز به اسم JevAct طراحی کردن که مثل یه دروازه‌بان تیزبز بین ایجنت‌های هوش مصنوعی و ابزارهاشون قرار می‌گیره تا جلوی خرابکاری‌ها رو بگیره. داستان اینه که بدون دستکاری خود مدل‌ها، قوانین کاری رو به کدهای کنترلی و سوال‌جواب تبدیل می‌کنن و قبل از اجرای هر ابزاری، داده‌ها رو چک می‌کنن تا اگه مشکلی بود با فیدبک درست برش گردونن به خود ایجنت تا اصلاحش کنه. خروجی کار هم واقعاً غوغا کرده؛ مثلاً توی بنچمارک مخابراتی، نرخ موفقیت مدل Opus 4.6 از حدود ۳۹.۵ درصد یه کله پریده روی ۸۰.۷ درصد و عملکرد بقیه ایجنت‌ها رو هم به طور میانگین نزدیک ۱۷ درصد بهتر کرده، هرچند توی بخش پروازها نتایج یه کم بالا و پایین داشته.

منبع

elvis@omarsar0
Banger paper from IBM on decision gates for agents. They add a runtime gate to tool-using agents and keep the models and tools the same. JevAct is a check that sits between the agent and its tools. An LLM first turns the domain policy into code checks and yes/no questions. Before a selected tool call runs, the code checks the facts in the tool records, and a Jev-like decision model answers the questions about the conversation. If the call fails a check, it goes back to the agent with feedback so the agent can revise it. On τ²-bench Telecom, Opus 4.6's success across all three runs rose from 39.5% to 80.7%. On Telecom, all eight agents improved by 16.9 points on average in three-run success. All nine improved on BFCL. Airline results were smaller and mixed. They show that the gains come from the harness. https://arxiv.org/abs/2610.38620 Chat with Paper: https://academy.dair.ai/papers/think-before-you-act-decision-gate-for-llm-agents-2610.38620
۹ آبان ۱۴۰۵مشاهده در X
arXiv.org

Think Before You Act: Decision Gate for LLM Agents

LLM agents increasingly perform consequential actions through external tools, yet their proposed actions are often executed without independent verification of policy compliance or task completion. We introduce JevAct, a runtime verification framework that intercepts selected agent actions before execution and enables feedback-driven correction. JevAct compiles domain policies into executable stat

خواندن در سایت منبع

نظرها

    بیشتر بخوانید

    تنظیمات

    پیش‌نمایش

    انویدیا از نسل تازه‌ی تراشه‌هایش رونمایی کرد؛ متن خبرها با همین اندازه و فاصله‌ی خطوط نمایش داده می‌شود. ۱۴۰۵ — 2026

    ظاهر و متن

    پوسته
    اندازه‌ی متن
    فاصله‌ی خطوط

    خواندن و نمایش

    نمای فهرست خبرها

    استوری‌ها

    چه خبرهایی پخش شوند
    ترتیب
    دیده‌شده‌هابدون باز کردن تک‌تک خبرها

    صدا

    اعلان‌ها و موضوع‌ها

    موضوع‌هایی که دنبال می‌کنیدهنوز هیچانتخاب موضوع‌ها

    صدای فارسی

    این دستگاه صدای فارسی ندارد. نمونه‌ی صداها را بشنوید و یکی را یک بار دانلود کنید تا خبرها و خلاصه‌ی روز را بشنوید.

    راه‌های دیگر

    ویدیوی خبر

    گفتگو

    … نفر آنلاین

      خواندن کامل