آنتروپیک
@rohanpaul_ai
@rohanpaul_aiکار به کجا رسیده؛ روهان پاول خبر داده که یه کاربلد تونسته مدل هوش مصنوعی Qwen3.8-27B رو فقط روی دو تا کارت گرافیک خونگی RTX 4090 با سرعت مشتی ۸۰ توکن در ثانیه بالا بیاره
کار به کجا رسیده؛ روهان پاول خبر داده که یه کاربلد تونسته مدل هوش مصنوعی Qwen3.8-27B رو فقط روی دو تا کارت گرافیک خونگی RTX 4090 با سرعت مشتی ۸۰ توکن در ثانیه بالا بیاره. نکته خفنش اینجاست که حتی با باز کردن کل حافظه کانتکست ۲۶۲ هزارتایی، کلاً ۳۴ گیگ از ۴۸ گیگابایت VRAM اشغال شده و سیستم اصلاً زیر بار نزاییده. از نظر هوش و زورآزمایی هم قشنگ با غول‌هایی مثل کلاد اوپوس رقابت می‌کنه و توی تست کدنویسی SWE-Pro با نمره ۶۱.۷، اوپوس ۵۳.۴ امتیازی رو راحت جا گذاشته.
منبع
Rohan Paul@rohanpaul_ai
Somebody running an Opus 4.6-level intelligence on consumer GPU.
Qwen3.8-27B-GGUF doing 80 tok/s on 2×4090s, full 262,144 context, MTP on, and only 34GB of 48GB VRAM occupied.
Note, Qwen3.8-27B: SWE-Pro 61.7 vs Opus 53.4; GPQA 89.2 vs 91.3.
۲۷ مرداد ۱۴۰۵مشاهده در X
بیشتر بخوانید
شرکت آنتروپیک که سازنده هوش مصنوعی کلود هست، رفته سراغ یه مهره‌ی فوق‌العاده کاردرست و امیر سالک، یعنی بنیان‌گذار و رئیس سابق بخش تراشه‌های TPU گوگل رو آورده توی تیم پردازش خودش
شرکت آنتروپیک رسماً تایید کرده رفته تو کار ساخت تراشه‌های اختصاصی خودش تا سرعت و بازدهی هوش مصنوعی کلود رو ببره بالا
دانشمندا چندین دهه بود دنبال موادی می‌گشتن که بتونه الکترون‌ها رو بر اساس اسپین دسته‌بندی کنه ولی مغناطیس کلی از خودش نشون نده، اما کار حسابی گره خورده بود
بچههای شرکت Vals AI اومدن با به‌کارگیری بیش از ۹۰ تا ایجنت هوش مصنوعی کلود، ظرف سه روز شبیه‌سازی دو تا ماده نیمه‌رسانای مغناطیسی خفن کشف کردن که می‌تونه تو حافظه‌های کامپیوتری اسپین‌ترونیک حسابی غوغا کنه
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.