آنتروپیک
@pruthveeee
قضیه داره خیلی عجیب و دارک میشه؛ شرکت آنتروپیک یه گزارش امنیتی داده بیرون که مو به تن آدم سیخ میکنه
قضیه داره خیلی عجیب و دارک میشه؛ شرکت آنتروپیک یه گزارش امنیتی داده بیرون که مو به تن آدم سیخ میکنه. طبق این آمار، غول چینی علیبابا بیشتر از ۱۵۱ میلیون بار کلود رو به رگبار پرامپت بسته تا بتونه به اصطلاح قابلیتهاشو بیرون بکشه و کپی کنه. از اون ترسناکتر، یه گروه توی یمن رسماً از همین هوش مصنوعی واسه نوشتن نرمافزار راکتهای هدایتشونده استفاده کرده و بعد از شلیک ناموفق، دوباره برگشته پیش کلود تا کداش رو دیباگ کنه! تازه ردپای استفاده از کلود توی طراحی سلاحهای بیولوژیکی، سیستم ضد اژدر و هدایت دستهجمعی پهپادها هم دیده شده که نشون میده ارتشها و گروههای شبهنظامی قفل کردن روی هوش مصنوعی.
منبع
Pruthvi Raj@pruthveeee
Wtf? Is this even real?
Alibaba allegedly ran 151M+ Claude exchanges to extract its capabilities
A Yemen-based cell used Claude to build guided-rocket software, test-fired it, then came back to debug the failure.
China-based actor used Claude on anti-torpedo fire-control systems
Anthropic found 5 cases of Claude being used in work that could support biological-weapons development
Other cases involved drone swarms and electronic-warfare targeting
Is this getting real fast or anthropic trying to speed run ai regulation to capture markets?
Anthropic @AnthropicAI
We're publishing our most detailed threat intelligence report to date.
It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them.
We disrupted every operation in the report, and used the lessons from them to strengthen our safeguards. Where appropriate, we also shared what we found with authorities and other AI companies.
These cases are not typical: we’re highlighting some of the most sophisticated misuse we’ve seen. But they’re especially important to discuss, because they show us where AI misuse is headed, where our safeguards work, and where they need to improve.
We’re publishing this report so others can spot the same activity on their own platforms, and so we can give the public a clearer view of how emerging threats develop.
Read the report: https://www.anthropic.com/threat-intelligence-report-september-2026
۲۰ شهریور ۱۴۰۵مشاهده در X




نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.