امنیت
@AndrewCurran_
@AndrewCurran_اندرو کوران با استناد به معرفی مدل جدید Kimi K3.1 از شرکت مون‌شات، یه خبر جدی داده که نشون میده هوش مصنوعی داره به یه جهش وحشتناک توی مهارت‌های سایبری و نفوذ امنیتی می‌رسه
اندرو کوران با استناد به معرفی مدل جدید Kimi K3.1 از شرکت مون‌شات، یه خبر جدی داده که نشون میده هوش مصنوعی داره به یه جهش وحشتناک توی مهارت‌های سایبری و نفوذ امنیتی می‌رسه. ماجرا از این قراره که سازنده‌های مدل وسط آموزش روی داده‌های عمومی فهمیدن استعداد این غول جدید توی پیدا کردن باگ و کارهای هکری، خودبه‌خود و به شکل سرسام‌آوری بالا رفته. واسه همین، تیم مون‌شات عمداً ترمز قابلیت‌های تهاجمی سایبری K3.1 Pro رو کشیده و دست و بال مدل رو بسته تا مبادا یه سلاح هک پیشرفته و بی‌در و پیکر دست عموم بیفته.
منبع
Andrew Curran@AndrewCurran_
Models are are now approaching a massive general jump in cyber capabilities. From the Kimi K3.1 launch post:
'During development, we observed vulnerability research performance improving steadily as post-training scaled. Tracing the source of this trend, we found that cyber-related content was embedded within the general mid-training corpus, and cyber-related tasks were present in the RL environment mix — a natural byproduct of training on broad data. In preliminary experiments on internal models, we found that without data removal at either the mid-training or the RL stage, downstream cyber capability would increase substantially.'
Andrew Curran @AndrewCurran_
Moonshot is intentionally throttling cyber capabilities. From the blog;
'First, we aim not to release open weights that would extend the absolute frontier of cyber capability. K3.1 Pro's offensive cyber capability is, by design, below what our pipeline can produce, and remains behind that of frontier proprietary models. Second, we intend to progressively raise the cyber capability available in open weights. We believe making K3.1 Pro available in a non-discriminatory way benefits people who need dual-use capabilities for defensive purposes.'
۱ آبان ۱۴۰۵مشاهده در X
بیشتر بخوانید
تیم تحقیقاتی شرکت کوهیر موقع بررسی مدل هوش مصنوعی Qwen تو یه محیط بسته و امنیتی، به یه رفتار عجیب و مشکوک برخوردن
وزارت امنیت میهن آمریکا رسماً شمشیر رو از رو بسته و به همه آژانس‌های فدرال غیرنظامی دستور داده که هرچی محصول از شرکت دیپ‌سیک دارن رو فوراً از دم تیغ بگذرونن و پاک کنن
بشنو از این ماجرای عجیب که قشنگ مو به تن آدم سیخ میکنه
مثل اینکه قضیه خطرات هوش مصنوعی اون‌قدر بیخ پیدا کرده که دو تا غول دنیا یعنی آمریکا و چین بالاخره تو پکن نشستن پای میز مذاکره تا براش خط قرمز و چارچوب امنیتی تعیین کنن
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.