انویدیا@ashxhart

یه مهندس کاردرست به اسم اَش هارت حرکتی زده که هوش از سرت می‌پرونه

یه مهندس کاردرست به اسم اَش هارت حرکتی زده که هوش از سرت می‌پرونه؛ اومده پروژه‌ای به اسم MCDMA راه انداخته تا با یه کابل تایپ‌سی معمولی، حافظه گرافیک‌های انویدیا اسپارک رو مستقیم به حافظه یکپارچه مک‌های اپل وصل کنه. با این ترفند، مک و انویدیا بدون هیچ واسطه‌ای صاف توی رم همدیگه می‌نویسن و توی تست‌ها هم سرعت انتقال همزمان به ۱.۸ گیگابایت بر ثانیه با تاخیر ناچیز ۲۴ میکروثانیه رسیده. این بنده خدا با دو تا اسپارک برای پردازش پرامپت و یه مک استودیو برای خروجی، مدل‌های سنگین دیپ‌سیک رو تست زده و قراره همین هفته هم همه‌چیز رو متن‌باز منتشر کنه.

منبع

Ash Hart@ashxhart
MCDMA | Metal CUDA Direct Memory Access 🚀 If you have a Spark and an Apple Silicon Mac, MCDMA gives you a direct RDMA path between CUDA memory and Metal-side unified memory over USB-C. Registered memory, rkeys, one-sided READ/WRITE, two-sided SEND/RECV with credit flow control. Same verbs both ways, no master/slave. The Mac writes straight into CUDA-mapped memory on the Spark, and the Spark writes straight back into Mac memory. My setup takes it a little further: Spark 1 ⇄ CX7 ⇄ Spark 2 (prompt processing) Spark 1 ⇄ USB-C ⇄ Mac Studio (Decode) Spark 2 ⇄ USB-C ⇄ Mac Studio (Decode) Two independent MCDMA USBC links, so the Studio isn't stuck behind one cable; both Sparks move data concurrently, and it writes results back into either. Measured, every byte delivery verified: • 939 MB/s single link • 1.80 GB/s Mac → both Sparks, concurrent • 1.25 GB/s both Sparks → Mac, concurrent • 24 µs round-trip, 41k msg/s small-message One Spark + One Mac works. Two is just how I'm using it: DeepSeek prompt processing across the Sparks, decode on the Studio. Benchmarks, tests, Open Source, and write-up this week. @NVIDIARTXSpark @NVIDIAAI @NaderLikeLadder @msharmavikram There’s still a lot of performance headroom here. If the currently locked USB4 controller can be allowed to train at full capability, I’d love to test how far we can push this. Please check your DMs.
۲۷ مرداد ۱۴۰۵مشاهده در X

نظرها

    بیشتر بخوانید

    تنظیمات

    پیش‌نمایش

    انویدیا از نسل تازه‌ی تراشه‌هایش رونمایی کرد؛ متن خبرها با همین اندازه و فاصله‌ی خطوط نمایش داده می‌شود. ۱۴۰۵ — 2026

    ظاهر و متن

    پوسته
    اندازه‌ی متن
    فاصله‌ی خطوط

    خواندن و نمایش

    نمای فهرست خبرها

    استوری‌ها

    چه خبرهایی پخش شوند
    ترتیب
    دیده‌شده‌هابدون باز کردن تک‌تک خبرها

    صدا

    اعلان‌ها و موضوع‌ها

    موضوع‌هایی که دنبال می‌کنیدهنوز هیچانتخاب موضوع‌ها

    صدای فارسی

    این دستگاه صدای فارسی ندارد. نمونه‌ی صداها را بشنوید و یکی را یک بار دانلود کنید تا خبرها و خلاصه‌ی روز را بشنوید.

    راه‌های دیگر

    ویدیوی خبر

    گفتگو

    … نفر آنلاین

      خواندن کامل