انویدیا@hyperstition_cc

یه استارتاپ تازه از راه رسیده به اسم Hyperstition ادعا کرده با ابزار جدیدش به نام Hyperkernel، کل معماری اجرای مدل‌ها روی کارت‌های گرافیک انویدیا رو شخم زده و انویدیا رو تو زمین خودش جا گذاشته

یه استارتاپ تازه از راه رسیده به اسم Hyperstition ادعا کرده با ابزار جدیدش به نام Hyperkernel، کل معماری اجرای مدل‌ها روی کارت‌های گرافیک انویدیا رو شخم زده و انویدیا رو تو زمین خودش جا گذاشته.

• این رفقا مدعی شدن فقط تو ۲۰ روز یه ابزار ساختن که کدهای پراکنده رو جمع می‌کنه تو یه «مگاکرنل» یکپارچه (Single Kernel Launch) و با فقط ۶۰ تا ۱۰۰ خط کد، سرعت مدل‌هایی مثل DeepSeek v4.1 Flash و پروتئین‌سازی ESMFold رو بین ۳۰ تا ||۷۰ درصد|| بالاتر برده.

• بنچمارک‌هاشون روی غول جدید انویدیا یعنی B300 حسابی پر سر و صداست؛ مثلاً ادعای برتری ۲۸ درصدی نسبت به vLLM خودِ انویدیا توی بارهای کاری سنگین یا اجرای همزمان ۲۵۷۰ تا مدل رانندگی خودکار OpenPilot روی یک پردازنده.

• اما نکته اینجاست: امروز فقط خروجی نهاییِ چند تا کرنل رو اوپن‌سورس کردن، نه خودِ اون ماشین تولید کد رو؛ قرار شده هسته اصلی سیستم طی هفته‌های بعد بیاد.

منبع

Hyperstition@hyperstition_cc
We invented a recursive megakernel generator called Hyperkernel, the most complete solution to megakernels and GPU efficiency. Hyperkernel-generated megakernels achieve state of the art performance on 11 different domains: inference (DeepSeek, Kimi and GLM), pretraining (Qwen), hardware fault recovery, robotics (π₀-FAST, ACT) diffusion and real time world models (Matrix-Game), full self driving (OpenPilot), voice models (Moshi), genomics (Evo 2) and protein folding (ESMFold). All of this in a single kernel launch. For context, Hyperkernel generated fully optimized megakernels for robotics, genomics and voice in under 50 minutes, and doubled the efficiency for >5 models generally using only about 60-100 lines of code per megakernel. This speaks to the unparalleled standard for code quality in the automated generations. Our first release today open sources the megakernels themselves. Over the next couple weeks, we will release the entire Hyperkernel stack, along with the complete serving stack for Kimi and GLM (20-30% inference efficiency gains across all concurrencies). Out of the box GPU machinery performs terribly for unorthodox research. We built Hyperkernel only 20 days ago for internal use; but given its multi-modality, we have decided to open source it. Creative research should not be bottlenecked by the lack of dedicated infra teams. Hyperkernels offer a one stop shop infra stack for all research. We would love for the open source community to add to it :) GitHub repo: https://github.com/Hyperstitioncc/Hyperkernel NOTE: We primarily use NVIDIA B300s, but our kernel generation extends to other hardware (B200s, AMD, TPUs). 1/9 We absolutely crush NVIDIA and achieve the best low latency inference for DeepSeek v4.1 Flash. Compared with NVIDIA’s published vLLM results, Hyperkernel delivers: • 36.7% higher per-user generation speed at concurrency 1. • 28.2% higher per-user speed while serving two users, versus NVIDIA serving one. • 15% higher per user speed while serving four users, versus NVIDIA serving one. • 90.6% higher per-user generation speed at concurrency 4, compared with the highest published C4 AgentX interactivity for TP4 B300s. • 28.5% higher per-user generation speed at concurrency 8, compared with NVIDIA's published result. • 36% faster median per-request decode speed.
۱۴ آبان ۱۴۰۵مشاهده در X
GitHub

GitHub - Hyperstitioncc/Hyperkernel

Contribute to Hyperstitioncc/Hyperkernel development by creating an account on GitHub.

خواندن در سایت منبع

نظرها

    بیشتر بخوانید

    تنظیمات

    پیش‌نمایش

    انویدیا از نسل تازه‌ی تراشه‌هایش رونمایی کرد؛ متن خبرها با همین اندازه و فاصله‌ی خطوط نمایش داده می‌شود. ۱۴۰۵ — 2026

    ظاهر و متن

    پوسته
    اندازه‌ی متن
    فاصله‌ی خطوط

    خواندن و نمایش

    نمای فهرست خبرها

    استوری‌ها

    چه خبرهایی پخش شوند
    ترتیب
    دیده‌شده‌هابدون باز کردن تک‌تک خبرها

    صدا

    اعلان‌ها و موضوع‌ها

    موضوع‌هایی که دنبال می‌کنیدهنوز هیچانتخاب موضوع‌ها

    صدای فارسی

    این دستگاه صدای فارسی ندارد. نمونه‌ی صداها را بشنوید و یکی را یک بار دانلود کنید تا خبرها و خلاصه‌ی روز را بشنوید.

    راه‌های دیگر

    ویدیوی خبر

    گفتگو

    … نفر آنلاین

      خواندن کامل