اوپنایآی
@kimmonismus
چشمت روز بد نبینه که بچههای OpenAI بالاخره از اولین چیپ اختصاصی خودشون به اسم «هالوپینو» (Jalapeño) رونمایی کردن و رسماً برای غول انویدیا شاخوشونه کشیدن



چشمت روز بد نبینه که بچههای OpenAI بالاخره از اولین چیپ اختصاصی خودشون به اسم «هالوپینو» (Jalapeño) رونمایی کردن و رسماً برای غول انویدیا شاخوشونه کشیدن. این چیپ تازهنفس توی تستها سیستمهای خفن GB200 و GB300 انویدیا رو لوله کرده و روی مدلهای سنگینی مثل دیپسیک و کیمی، تا نزدیک دو برابر بازدهی مصرف انرژی بهتر و تا ۳.۶ برابر تأخیر کمتری نشون داده. خلاصه با اینکه توانش رو ۷۰۰ وات اعلام کردن، اما توی عمل زیر ۵۵۰ وات مصرف داشته و قراره تا اواخر سال ۲۰۲۶ وارد میدون بشه، تازه نسلهای بعدیش هم تو راهه.
منبع
Chubby♨️@kimmonismus
Holy: OpenAI says its first custom inference chip is already beating Nvidia GB200 and GB300 systems on speed and efficiency.
Across GPT‑OSS 120B, DeepSeek R1 670B, and Kimi K2.5 1T, Jalapeño delivered 1.5–1.9× more AI work per watt at peak throughput and 1.7–3.6× lower end-to-end latency in OpenAI’s own InferenceX testing!
For highly interactive workloads, OpenAI reports 2.1–4.1× higher performance.
The chip is rated at 700 watts, but remained at or below 550 watts during the tested workloads.
OpenAI plans to begin deploying Jalapeño by the end of 2026. Gen 2 is already deep in development, with Gen 3 taking shape.
Probably thats why Tibo said that in 1-2 years 750token/s will be the default
۳ شهریور ۱۴۰۵مشاهده در X




نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.