اوپن‌ای‌آی
@kimmonismus
@kimmonismusبچه‌های اوپن‌ای‌آی از چیپ اختصاصی جدیدشون به اسم «خالوپینو» پرده‌برداری کردن و یه آمار برگ‌ریزون دادن که هوش مصنوعی عملاً خودش نشسته برای سخت‌افزار خودش کد زده
بچه‌های اوپن‌ای‌آی از چیپ اختصاصی جدیدشون به اسم «خالوپینو» پرده‌برداری کردن و یه آمار برگ‌ریزون دادن که هوش مصنوعی عملاً خودش نشسته برای سخت‌افزار خودش کد زده! ماجرا اینه که مدل GPT-Astra اومده با کمک کادکس توی دو ماه کرنل‌های سطح‌پایین این تراشه رو طوری بهینه‌سازی کرده که کدهایش بین ۱.۵ تا ۱.۸ برابر سریع‌تر از دستپخت خفن‌ترین برنامه‌نویس‌های انسانی کار می‌کنن. تازه ادعا کردن این چیپست جدید توی سرعت و بازدهی مصرف انرژی، سیستم‌های غول‌پیکر GB200 و GB300 انویدیا رو هم قشنگ جا گذاشته و رو مدل‌های سنگین کارایی خفنی ثبت کرده.
منبع
Chubby♨️@kimmonismus
interesting detail in OpenAIs blogpost to "Jalapeño":
GPT-Astra used Codex to write and optimize low-level kernels that brought three previously unplanned open-weight models to high performance on OpenAI’s Jalapeño chip within two months.
For selected attention and mixture-of-experts blocks, its implementations ran 1.5–1.8× faster than existing human-expert-written code.
looks like astra is a really really good model.
Chubby♨️ @kimmonismus
Holy: OpenAI says its first custom inference chip is already beating Nvidia GB200 and GB300 systems on speed and efficiency.
Across GPT‑OSS 120B, DeepSeek R1 670B, and Kimi K2.5 1T, Jalapeño delivered 1.5–1.9× more AI work per watt at peak throughput and 1.7–3.6× lower end-to-end latency in OpenAI’s own InferenceX testing!
For highly interactive workloads, OpenAI reports 2.1–4.1× higher performance.
The chip is rated at 700 watts, but remained at or below 550 watts during the tested workloads.
OpenAI plans to begin deploying Jalapeño by the end of 2026. Gen 2 is already deep in development, with Gen 3 taking shape.
Probably thats why Tibo said that in 1-2 years 750token/s will be the default
۳ شهریور ۱۴۰۵مشاهده در X
بیشتر بخوانید
چشمت روز بد نبینه که بچه‌های OpenAI بالاخره از اولین چیپ اختصاصی خودشون به اسم «هالوپینو» (Jalapeño) رونمایی کردن و رسماً برای غول انویدیا شاخ‌وشونه کشیدن
این دوستمون حسن تور اومده یه پروژه خفن به اسم ODS معرفی کرده که سیستمت رو با یه تک‌دستور می‌کنه سرور اختصاصی و تمام‌عیار هوش مصنوعی
لیام فدوس و تیمش توی منلو پارک یه آزمایشگاه پیشرفته علم مواد علم کردن تا آزمایش‌های عملی و هوش مصنوعی رو بندازن تو یه چرخه یادگیری مداوم
تحلیلگرهای دنیای هوش مصنوعی معتقدن اپل با معرفی مک استودیوهای مجهز به تراشه M5 Ultra حسابی برای انویدیا خط و نشون کشیده
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.