انویدیا
@BenKoska
@BenKoskaاین بن کاسکا و تیمش اومدن یه شاهکار فنی زدن و معماری پرچمدار جدید انویدیا یعنی بلک‌ول B200 رو مهندسی معکوس کردن
این بن کاسکا و تیمش اومدن یه شاهکار فنی زدن و معماری پرچمدار جدید انویدیا یعنی بلک‌ول B200 رو مهندسی معکوس کردن. این رفقا یه مدل نرم‌افزاری از دستورات تنسور کور این سخت‌افزار ساختن که خروجیش بیت‌به‌بیت و مو‌به‌مو با چیپ واقعی انویدیا یکیه. یعنی اصلاً بحث «تخمینی و تقریبی» در کار نیست و دقیقاً همون خروجی سخت‌افزار اصلی رو روی نرم‌افزار پیاده کردن. خلاصه این رفقا نشون دادن چطوری میشه پیچیده‌ترین کدهای سخت‌افزاری غول‌های هوش مصنوعی رو کشید بیرون و شبیه‌سازی کرد.
منبع
Ben Koska@BenKoska
We built a software model of NVIDIA Blackwell's Tensor Core MMA instruction (http://tcgen05.mma) that matches real B200 hardware bit-for-bit.
Not "close enough for numerics." Every output word, identical.
Here's how we reverse-engineered it. 🧵
۱۴ مرداد ۱۴۰۵مشاهده در X
بیشتر بخوانید
اسپیس‌ایکس با انویدیا دست‌به‌یکی کرده تا رو ماهواره‌های جدیدش تراشه‌های خفن روبین و ورا بذاره و رسماً فضا رو بکنه مرکز پردازش هوش مصنوعی
انویدیا از یه مدل هوش مصنوعی خفن به اسم «آلپامایو ۲ سوپر» واسه ماشین‌های خودران رونمایی کرده که قبل حرکت قشنگ فکر می‌کنه و منطق سرش میشه
پژوهشگرای انویدیا باز یه حرکت خفن زدن و کاری کردن که بشه حافظه پیش‌پردازش یا همون KV Cache رو بین مدل‌های مختلف هوش مصنوعی منتقل کرد
جنسن هوانگ رئیس انویدیا چه طرح سنگینی رو رو کرده
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.