اوپن‌ای‌آی@thsottiaux

و داداشای گلم، قضیه از این قراره که تیم کُدکس متوجه شده مدل GPT-5.6 موقع پاک‌سازی پوشه‌های موقت بعضی وقتا قاطی می‌کرده و اشتباهی ممکن بوده فایل‌های اصلی سیستم و پوشه هوم کاربر رو بفرسته هوا

و داداشای گلم، قضیه از این قراره که تیم کُدکس متوجه شده مدل GPT-5.6 موقع پاک‌سازی پوشه‌های موقت بعضی وقتا قاطی می‌کرده و اشتباهی ممکن بوده فایل‌های اصلی سیستم و پوشه هوم کاربر رو بفرسته هوا! واسه همین دست‌به‌کار شدن و چند لایه امنیتی خفن اضافه کردن تا مدل قبل از حذف هر فایلی اول مسیرش رو سه‌باره چک کنه و جلوی دستورات خطرناک رو سفت‌وسخت بگیره. از اون‌ور هم دسترسی کامل رو محدودتر کردن و سیستم رو جوری بستن که دیگه سرخود خرابکاری نکنه، ولی باز تاکید دارن حتماً برنامه‌تون رو آپدیت نگه دارید و الکی دسترسی فول بهش ندید.

منبع

Tibo@thsottiaux
Hi! Recapping some changes we have rolled out over the last couple of weeks that have further reduced the risk associated to potentially destructive actions being performed by Codex during its work. A few weeks ago, we started investigating a small number of reports where GPT-5.6 in Codex took destructive actions outside what the user asked for. The most serious pattern we found was a command meant to clean up temporary work that could instead delete the user files. This should obviously not happen. Here’s what we found: - Codex sometimes creates temporary folders while working and cleans them up afterward. In rare cases, GPT-5.6 got that cleanup wrong. One pattern involved reusing a system environment variable like $HOME for temporary work. A malformed cleanup command could then point at the actual home directory instead of the temporary folder. - There were cases where the model tried to delete or overwrite a temporary path without checking what was already there. We’ve added protections at several layers: - Codex is now explicitly instructed to check deletion targets before acting, create fresh temporary directories, avoid repurposing system environment variables, prefer recoverable actions, and stop when the scope is unclear. - We strengthened the execution checks that identify high-risk deletion commands and escalate them for review. If a command is rejected, the model is directed to take a safer approach. - We made Full access harder to enable accidentally, added clearer warnings, and further restricted especially risky permission combinations. - We updated Auto-review to better identify destructive actions. - We built targeted evaluations that replay the failures we observed. We’re also adding reinforcement-learning tasks and graders focused on these risks, and filtering destructive actions from training data. In those replay evaluations, the changes substantially reduced the behavior while preserving Codex’s ability to complete normal coding work. Two things to do on your end: - Keep the Codex app up to date. We are always improving safety, performance and many other things. - Use one of the sandbox modes: "Ask for approval" or "Approve for me". Only use Full access for environments you trust and can recover. Thanks and happy Codexing out there!
۲۸ مرداد ۱۴۰۵مشاهده در X

نظرها

    بیشتر بخوانید

    تنظیمات

    پیش‌نمایش

    انویدیا از نسل تازه‌ی تراشه‌هایش رونمایی کرد؛ متن خبرها با همین اندازه و فاصله‌ی خطوط نمایش داده می‌شود. ۱۴۰۵ — 2026

    ظاهر و متن

    پوسته
    اندازه‌ی متن
    فاصله‌ی خطوط

    خواندن و نمایش

    نمای فهرست خبرها

    استوری‌ها

    چه خبرهایی پخش شوند
    ترتیب
    دیده‌شده‌هابدون باز کردن تک‌تک خبرها

    صدا

    اعلان‌ها و موضوع‌ها

    موضوع‌هایی که دنبال می‌کنیدهنوز هیچانتخاب موضوع‌ها

    صدای فارسی

    این دستگاه صدای فارسی ندارد. نمونه‌ی صداها را بشنوید و یکی را یک بار دانلود کنید تا خبرها و خلاصه‌ی روز را بشنوید.

    راه‌های دیگر

    ویدیوی خبر

    گفتگو

    … نفر آنلاین

      خواندن کامل