بچههای آیبیام یه سیستم تر و تمیز به اسم JevAct طراحی کردن که مثل یه دروازهبان تیزبز بین ایجنتهای هوش مصنوعی و ابزارهاشون قرار میگیره تا جلوی خرابکاریها رو بگیره

بچههای آیبیام یه سیستم تر و تمیز به اسم JevAct طراحی کردن که مثل یه دروازهبان تیزبز بین ایجنتهای هوش مصنوعی و ابزارهاشون قرار میگیره تا جلوی خرابکاریها رو بگیره. داستان اینه که بدون دستکاری خود مدلها، قوانین کاری رو به کدهای کنترلی و سوالجواب تبدیل میکنن و قبل از اجرای هر ابزاری، دادهها رو چک میکنن تا اگه مشکلی بود با فیدبک درست برش گردونن به خود ایجنت تا اصلاحش کنه. خروجی کار هم واقعاً غوغا کرده؛ مثلاً توی بنچمارک مخابراتی، نرخ موفقیت مدل Opus 4.6 از حدود ۳۹.۵ درصد یه کله پریده روی ۸۰.۷ درصد و عملکرد بقیه ایجنتها رو هم به طور میانگین نزدیک ۱۷ درصد بهتر کرده، هرچند توی بخش پروازها نتایج یه کم بالا و پایین داشته.
منبع
Think Before You Act: Decision Gate for LLM Agents
LLM agents increasingly perform consequential actions through external tools, yet their proposed actions are often executed without independent verification of policy compliance or task completion. We introduce JevAct, a runtime verification framework that intercepts selected agent actions before execution and enables feedback-driven correction. JevAct compiles domain policies into executable stat
خواندن در سایت منبع



نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.