انویدیا
@modal
بچههای تیم مدال دستشون به پردازنده جدید انویدیا یعنی Vera رسیده و حسابی زیر بار پردازشهای سنگین ایجنتهای هوش مصنوعی محک برش داشتن
بچههای تیم مدال دستشون به پردازنده جدید انویدیا یعنی Vera رسیده و حسابی زیر بار پردازشهای سنگین ایجنتهای هوش مصنوعی محک برش داشتن. طبق تستهای اولیهشون، این غول جدید تونسته تا دو برابر پردازندههای معادل x86 بازدهی و توان پردازشی ثبت کنه. قشنگی ماجرا اینجاست که حتی وقتی صدها برنامه به شکل همزمان سر منابع پردازشی به جون هم افتادن، سیستم اصلاً کم نیاورده و تاخیرش پایین مونده. واسه پلتفرمهایی مثل سندباکس مدال، این دستاورد یعنی میشه کلی ایجنت رو به صورت موازی و بدون هیچگونه افت سرعتی ردیف کرد.
منبع
Modal@modal
We got our hands on @nvidia's new Vera CPU and put it to the test.
We built a benchmark using real-world agentic workloads to see how it performs under contention.
In early tests, Vera delivered up to 2x the throughput of comparable x86 hardware, maintaining low latency even as hundreds of concurrent workloads competed for resources.
For Modal Sandboxes, that could mean running more agents in parallel without sacrificing latency.
۲۷ مهر ۱۴۰۵مشاهده در X



نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.