اپل
@mertcemri
@mertcemriیه ابزار تر و تمیز به اسم JITEngine رونمایی شده که خوراک برو‌بچه‌های مک و پردازنده‌های اپل سیلیکونه
یه ابزار تر و تمیز به اسم JITEngine رونمایی شده که خوراک برو‌بچه‌های مک و پردازنده‌های اپل سیلیکونه. ماجرا اینه که مرت جِمری و تیمش اومدن یه سیستمی راه انداختن که با کمک ابزار SkyDiscover، موتور پردازش و اجرای مدل‌های زبانی رو درست متناسب با سخت‌افزار مک و مدل شما سرِ بزنگاه بازتولید و شخصی‌سازی می‌کنه. طبق تست‌هایی که زدن، این فناوری جدید تونسته تا ۲.۷ برابر سریع‌تر از قوی‌ترین رقبای فعلی خروجی بده و حسابی گرد و خاک کنه.
منبع
Mert Cemri@mertcemri
What if you could synthesize an LLM inference engine customized for your model and Mac, just in time?
Meet JITEngine: custom engines built with SkyDiscover for Apple Silicon, up to 2.7× faster than the fastest alternatives we tested.
https://jitengine.ai 🧵 (1/n)
۱۳ آبان ۱۴۰۵مشاهده در X
JITEngine
JITEngine: LLM serving, synthesized for your Mac
LLM serving engines synthesized for your Mac, up to 2.7× as fast as the best other server we measured on the same Mac. Pick your Mac and get its commands, with the speeds we measured.
خواندن در سایت منبعبیشتر بخوانید
مثل اینکه کمپانی اپل هم سر کیسه رو سفت گرفته و اومده بودجه‌های داخلی مربوط به استفاده از هوش مصنوعی رو حسابی قیچی کرده تا هزینه‌هاش رو بکشه پایین
تو این تب‌وتاب هوش مصنوعی که همه فقط دادِ بنچمارک و پارامتر بیشتر سر می‌دن، بالاخره یه تیم پژوهشی دست گذاشته رو اصلِ ماجرا: کنتور برق و دخل‌وخرج واقعی با متر و معیاری به اسم Joules-to-GDP
بادکنک رؤیاهای نامحدود هوش مصنوعی بالاخره خورد به سیم‌خاردار دنیای واقعی
بشنو از دنیای هوش مصنوعی که تیم Ricursive Intelligence اومده و از مدل جدیدش به اسم Ripple-65B Preview رونمایی کرده؛ یه مدل زبانی متراکم با ۶۵ میلیارد پارامتر که از صفر کیلومتر خودشون آموزشش دادن
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.