امنیت
@jun_song
@jun_songیه متخصص هوش مصنوعی به اسم جون سانگ تعریف کرده که یه باند هکر کلاه‌سیاه اومدن سراغش و یه پول قلمبه و نجومی پیشنهاد دادن تا مدل‌های وزن‌باز رو با داده‌های هک و اکسپلویت آموزش بده
یه متخصص هوش مصنوعی به اسم جون سانگ تعریف کرده که یه باند هکر کلاه‌سیاه اومدن سراغش و یه پول قلمبه و نجومی پیشنهاد دادن تا مدل‌های وزن‌باز رو با داده‌های هک و اکسپلویت آموزش بده. طرف می‌گه حجم داده‌های حمله‌ای که دست اینا بود در حدی وحشتناک و بی‌سابقه بوده که اگه می‌گفتن دیتابیس محرمانه خود اف‌بی‌آیه آدم باورش می‌شد؛ طوری که خودش قبلاً با کمتر از یک درصد همین حجم دیتا روی مدل GLM تونسته بود غول‌ترین هوش‌های مصنوعی روز رو جا بذاره. دست‌آخر خودش غیرت به خرج داده و این پیشنهاد سنگین رو رد کرده، اما دلش مثل سیروسرکه می‌جوشه چون خوب می‌دونه دیر یا زود یکی دیگه پیدا می‌شه که این پول درشت چِشش رو بگیره و این سلاح سایبری رو بسازه.
منبع
Jun Song@jun_song
Yesterday, an anonymous black hat group reached out with an insane RL request.
They offered an astronomical amount of money to post-train open-weight models on exploit data.
The amount of attack data they claim to hold is unlike anything I have ever seen. If someone told me this was an undercover FBI dataset, I would have believed it.
For context, a white-hat project I worked on using GLM-5.3 used less than one percent of that volume, and it already outperformed frontier models by a huge margin.
Of course, I turned it down. But what genuinely scares me is knowing someone else will eventually take the deal.
۱۰ آبان ۱۴۰۵مشاهده در X
بیشتر بخوانید
اف‌بی‌آی رسماً اعلام کرده که هکرهای گردن‌کلفت کره شمالی تحت عنوان گروه «TraderTraitor»، دست به یه سرقت تاریخی زدن و بیش از ۶ میلیارد دلار ارز دیجیتال رو از صرافی بایننس بالا کشیدن
بچههای آنتروپیک اومدن برای سنجش امنیت هوش مصنوعی یه تست خفن زدن و هزارتا ایجنت کلود رو فرستادن تا سیستم نظارت بر داده‌های آموزشی رو دور بزنن
بچههای کاردرستِ چِین‌آنالیسیس خبر دادن که هکرهای ماجرای بایننس یه روش پولشویی پیاده کردن که تا حالا لنگه‌ش هیچ‌جا دیده نشده
یه خبر عجیب‌وغریب اومده که دود از کله آدم بلند می‌کنه؛ ادعا شده که هکرهای کاردرستِ کره شمالی صرافی غول‌پیکر بایننس رو بدجوری خالی کردن
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.