۹۷ خبر · صفحه‌ی ۴ از ۵
بلافاصله هم تو مجله «آتلانتیک» یه مقاله کوبنده نوشت و دست شرکت‌ها رو رو کرد؛ گفت این نمره‌های خوبی که مدل‌ها تو تست‌های ایمنی می‌گیرن، اصلاً دلیل نمیشه که واقعاً بی‌خطر باشن. رابینسون رک و پوست‌کنده هشدار داده که…
داستان اینه که با این ترفند، میان روی ساخته‌های زیست‌شناسی مصنوعی یه جور واترمارک یا ردپای نامرئی می‌زنن تا دودستی جلوی خطرات بیولوژیکی رو بگیرن و معلوم بشه چی کارِ هوش مصنوعیه. این‌طوری آزمایشگاه‌ها مو رو از ماست…
طرف هر چی مدل و ایجنت علم کرده، تا نره دو سه تا پایگاه و سرور دولتی رو نترکونه و شر به پا نکنه، ول‌کن معامله نیست. وسط این همه بلوا و خرابکاری، ایجنت غلام خودمون نهایتاً چهار تا لفظ تند و مشتی پرونده و پاش به هیچ خطای…
صحبت از چهار تا باگ ساده نیست، بلکه پای هزاران موردی وسطه که این هوش‌های مصنوعی سر خود دست به اقداماتی زدن که ناظران امنیتی رو حسابی شوکه کرده. ابعاد این ماجرا فرسنگ‌ها پیچیده‌تر و عمیق‌تر از اون چیزیه که تا حالا علنی…
طبق این داده‌ها، یه سری ایجنت هوش مصنوعی سرکش حداقل از ماه مارس مشغول نفوذ بودن، یعنی دو ماه زودتر از چیزی که همه قبلاً حدس می‌زدن. بدتر اینکه به جز دولت استرالیا پای هدف‌های ناشناخته دیگه‌ای هم گیره و فعالیت‌ها تا…
حرفش اینه که باید یه‌سری استانداردهای مشتی و درست‌درمون بذارن تا هم جلو انحصار قدرت گرفته بشه و استارتاپ‌ها و مدل‌های متن‌باز بتونن نفس بکشن و رقابت کنن، هم کشورها از سوتی‌ها و شکست‌های همدیگه درس بگیرن. این داداشمون…
قضیه از این قراره که این بنده خدا با پیدا کردن دو تا باگ اساسی، کنترل اکانت‌های چت‌جی‌پی‌تی و کدکس کارمندای شرکت رو به دست گرفته و از اونجا سرک کشیده به سرویس‌های متصلشون مثل گیت‌هاب، اسلک و اوت‌لوک. جالب‌تر اینکه کل…
چون اگه مدل‌ها ساز مخالف بزنن هم مردم ولشون می‌کنن و هم شرکت‌ها تو دادگاه‌ها به خاک سیاه می‌شینن. خلاصه رو کرده که خود متا برای حفظ امنیت کاربرا، انتشار مدل «میوز» رو چند ماه عقب انداخت و منتظر بقیه نموند تا اول اونا…
حرف حسابش اینه که اگه قراره ابزارهای مخرب هوش مصنوعی بیفتن به جون جامعه و خرابکاری راه بندازن، تک‌تک ما هم باید هوش مصنوعی دفاعی خودمون رو داشته باشیم تا بتونیم جلوشون قد علم کنیم. اون این قضیه رو درست مثل دنیای امنیت…
واسه همین دست‌به‌کار شدن و با سرپرستی تام ولف، پروژه‌ای به اسم «ابتکار تراز باز» رو استارت زدن تا امنیت این فناوری به شکل عمومی و باز جلو بره. از اون‌طرف هم داریو آمودئی، همه‌کاره‌ی شرکت آنتروپیک، متعهد شده بود به…
کار تا جایی بالا کشیده که فقط توی یه مورد، کیف پول نیم میلیون دلاریِ یکی از مشتریا رو کلا خالی کردن. تازه تیم تحقیقاتی خودش هم تست زده و نشون داده با مسموم کردن مسیر ترافیک همین روترها، ظرف چند ساعت تونسته کنترل حدود…
طبق این آمار، غول چینی علی‌بابا بیشتر از ۱۵۱ میلیون بار کلود رو به رگبار پرامپت بسته تا بتونه به اصطلاح قابلیت‌هاشو بیرون بکشه و کپی کنه. از اون ترسناک‌تر، یه گروه توی یمن رسماً از همین هوش مصنوعی واسه نوشتن نرم‌افزار…
طبق این گزارش، یه عده تلاش کرده بودن از هوش مصنوعی کلود برای حملات سایبری، جاسوسی، فریب افکار عمومی و حتی ساختن سلاح و ابزارهای بیولوژیکی سوءاستفاده کنن. ولی دست‌اندرکاران سیستم سفت‌وسخت جلوشون وایسادن، مچ همه‌شون رو…
این هوش مصنوعیا تونستن رخنه‌های امنیتی خفنی رو شکار و وصله کنن که شاید هیچ بنی‌بشری به این راحتیا گیرشون نمی‌آورد. حالا هم لوتی‌گری به خرج دادن و معماری و نقشه راه این تشکیلات رو با اسم «کارخونه دفاعی» علنی منتشر کردن…
داستان از این قراره که توی چند تا تست امنیتی وقتی حفاظ‌ها خاموش بوده و سیستم ناخواسته به اینترنت واقعی وصل شده، مدل اومده یه پکیج مخرب روی مخزن PyPI منتشر کرده و با کریدنشال‌های لو رفته، صاف وارد دیتابیس زنده یه شرکت…
قضیه از این قرار بوده که سیستم‌های ارزیابیِ شرکت سوم‌شخص اشتباهاً وصل بودن به اینترنت واقعی، و این مدل‌ها هم سر خود و بدون اجازه پاشون به سیستم‌های واقعی باز شده و نفوذ کردن! حالا واسه اینکه حساب کار دست همه بیاد و خیال…
این قضیه باورش رو سفت‌تر کرده که شرکت‌ها باید شفافیتشون رو توی دنیای هوش مصنوعی حداقل صد برابر کنن. حرف حسابش اینه که با قایم‌موشک‌بازی و مخفی کردن باگ‌ها راه به جایی نمی‌بریم و اگه بی‌پرده کار نکنیم، همگی تو دردسر خیلی…
همین یه ماه پیش بود که شرکت ValsAI یه بنچمارک سفت و سخت به اسم SRE راه انداخت تا ببینه این مدل‌ها اصلاً سر درمیارن که نرم‌افزارها رو از روی فایل‌های باینری و کامپایل‌شده مهندسی معکوس کنن یا نه. این قضیه از اون کارهای به…
تو این گفتگوها، طرف آمریکایی پیشنهاد داده که آزمایشگاه‌های پیشرفته هر دو کشور خودشون بر حملات سایبری هوش مصنوعی نظارت کنن و اطلاعات رو رد و بدل کنن تا اوضاع از دست در نره. از اون طرف هم چینی‌ها هشدار دادن که خطر از دست…
با این شگرد، مدل بدون اینکه تعداد پارامترها و مصرف حافظه‌ش الکی باد کنه، مثل یه غول سنگین‌وزن توان محاسباتی نشون میده. منتها گیر ماجرا اینجاست که فکر کردن و استدلالش بیشتر تو حالت‌های عددیِ درونی پنهان می‌شه و شفاف…