چین
@kimmonismus
@kimmonismusداستان رقابت هوش مصنوعی بین غول‌ها بدجوری بالا گرفته و اوپن‌ای‌آی دست چینی‌ها رو سر بزنگاه خونده
داستان رقابت هوش مصنوعی بین غول‌ها بدجوری بالا گرفته و اوپن‌ای‌آی دست چینی‌ها رو سر بزنگاه خونده. ماجرا از این قراره که این شرکت مدعی شده آدم‌های مرتبط با استارتاپ چینی مون‌شات، سازنده مدل معروف کیمی، افتاده بودن دنبال دوشیدن و بیرون کشیدن استدلال‌های مخفی مدل‌هاش تا ازش برای آموزش سیستم‌های خودشون سوءاستفاده کنن. توی همین بگیروببند، اوپن‌ای‌آی فقط توی دو روز نزدیک ۱۶ هزار تلاش مشکوک از طرف بیش از ۴ هزار حساب کاربری ثبت کرده که ردپای کلی‌شون به بیشتر از ۱۵ هزار کاربر هم می‌رسه. کلک‌شون هم این بوده که استدلال‌های رمزگذاری‌شده رو بین چت‌ها جابه‌جا می‌کردن تا مدل رو دور بزنن و سورس کار رو کف برن.
منبع
Chubby♨️@kimmonismus
Geopolitical struggle intensified : OpenAI says individuals linked to Kimi developer Moonshot AI were behind a core part of a campaign to extract its models’ hidden reasoning.
Across the broader campaign, OpenAI recorded 16,000 extraction attempts from over 4,000 users in two days. Further investigation identified related activity across more than 15,000 users.
Operators tried moving encrypted reasoning between conversations and prompting a model to reveal its contents.
Hidden reasoning could provide valuable training material for competing models.
۸ مهر ۱۴۰۵مشاهده در X
بیشتر بخوانید
این جئول نیکلاوس اومده یه تحقیق مشتی روی ۲۵۰ تا مسئله برنامه‌نویسی SWE-bench Pro زده و نشون داده اون پوسته و چارچوبی که دور مدل‌های هوش مصنوعی می‌پیچیم، حتی بیشتر از خود مدل رو نتیجه نهایی تاثیر داره
این بچه‌های شرکت آلمانی «الف آلفا» با مدل جدیدشون به اسم «کولیبری» بدجوری تو میدون هوش مصنوعی گرد و خاک کردن و همه رو انگشت‌به‌دهن گذاشتن
بچه‌های هاگینگ‌فیس اومدن یه حرکت تمیز زدن و ابزارهای معروف کدنویسی مثل Claude Code و Codex و OpenCode رو بدون دستکاری، تبدیل کردن به محیط آموزش یادگیری تقویتی (RL)
بچه‌های موسسه Epoch AI نشستن پای داده‌هایی که خودِ اوپن‌ای‌آی از استفاده محققاش از ابزارهای هوش مصنوعی کدنویس منتشر کرده و حسابی حساب‌کتابش کردن
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.