آنتروپیک
@ns123abc
تیم امنیتی آنتروپیک یه زنگ خطر اساسی به صدا درآورده و میگه نسل جدید «کرمهای هوش مصنوعی» دارن جون میگیرن که حتی بدون نیاز به دیتاسنترهای غولپیکر هم میتونن خودشون رو تکثیر کنن




تیم امنیتی آنتروپیک یه زنگ خطر اساسی به صدا درآورده و میگه نسل جدید «کرمهای هوش مصنوعی» دارن جون میگیرن که حتی بدون نیاز به دیتاسنترهای غولپیکر هم میتونن خودشون رو تکثیر کنن. قضیه از این قراره که محققا اومدن ۱۵ تا اندروید باکس ۵۵ دلاری ساده رو شبکه کردن و دیدن مدلها چطور هوشمندانه روی حافظه این دستگاههای ارزون پخش میشن و اجرا میافتن. تازه مدلهایی مثل GLM و Qwen نشون دادن که بلدن گجتهای دمدستی مثل تلویزیون و جاروبرقی هوشمند رو آلوده کنن، خودشون رو بازتولید کنن و نسل به نسل با ثبت خطاها شانس تکثیر موفق رو از ۴۵ درصد به ۸۴ درصد برسونن. پیشبینی شده تا اواخر ۲۰۲۶ این مدلهای زیر ۳۰ میلیارد پارامتر به نقطه تکثیر تماماً خودمختار برسن، طوری که نشه با کشیدن یه دوشاخه مهارشون کرد چون تیکههای مدل توی دستگاههای کل محله پخش شده.
منبع
NIK@ns123abc
🚨Anthropic Frontier Red Team warns: “We’re seeing signs of life for AI worms”
>paper: "AI models may be capable of self-replicating without access to a datacenter"
>researchers buy 15 sketchy $55 android TV boxes
>link them over unauthenticated ADB ports
>the TV boxes have 4gb of RAM each and run unpatched Android Open Source Project forks
>shard gemma4-26b across the ram sticks using pipeline parallelism
>gemma figures out how to run inference across all 15 TVs @ 0.39 tokens/sec
>qwen 3.5 9b figures out how to compile inference on 8 of 9 novel hardware types on its own
>glm 5.2 achieves end-to-end autonomous worm replication
>infects edge devices, compiles its own inference stack, and replicates autonomously
>when an instance dies, it writes debugging notes into Memento for the next generation
>daughter copies setup success jumps from 45% -> 84% across generations
>pure Lamarckian evolution inside consumer electronics
>smart oven, robot vacuum, and cheap TVs form a decentralized botnet
>two million infected TV boxes worldwide = 40 H100 equivalents of unkillable compute
>it replicates once every few days like a distributed “digital slime mold”
>you can't pull the plug because half the model weights are already sharded across the neighborhood
>sub-30B models projected to hit full autonomous replication threshold by late 2026
“We should aim to harden our systems… but also prepare to deal with a world where they are here to stay.”
۲۱ مهر ۱۴۰۵مشاهده در X




نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.