الکساندر ویدون از یه مدل تصمیمگیری سازمانی خیلی خفن به اسم SubQ Snap رونمایی کرده که کانتکست ۳۸۴ هزار توکنی داره و ادعا میکنه برعکس بقیه مدلا، با زیاد شدن طول متن مصرف پردازشی هر توکنش اصلاً بالا نمیره
الکساندر ویدون از یه مدل تصمیمگیری سازمانی خیلی خفن به اسم SubQ Snap رونمایی کرده که کانتکست ۳۸۴ هزار توکنی داره و ادعا میکنه برعکس بقیه مدلا، با زیاد شدن طول متن مصرف پردازشی هر توکنش اصلاً بالا نمیره. این هیولا توی بنچمارکها رقیبش یعنی Jev رو پشت سر گذاشته، ۱۰۰ هزار توکن رو زیر یک ثانیه قورت میده و تصمیم تحویل میده، و قیمتش هم فقط ۵ سنت به ازای هر میلیون توکن ورودیه که خروجیشم کاملاً مفتی حساب میشه. تازه به ۱۰ هزار نفر اولی که ثبتنام کنن، ۱۰۰ میلیون توکن ورودی رایگان هدیه میدن تا حسابی زیر بار کاری چکش بزنن.
منبع
Alexander Whedon@alex_whedon
Introducing SubQ Snap, the first long-context decision model for real enterprise work.
Snap is the only decision model or LLM where compute per token stays constant as context grows.
• 384K tokens of multimodal context, 12x larger than Jev.
• 61.7 on Decision Index v0.2.1 vs Jev’s 57.9, outperforming on 13 of 16 enterprise benchmarks.
•Processes 100K tokens and returns a decision in under one second.
•$0.05/MM input tokens. Output is free.
Available today to anyone.
The first 10,000 sign-ups get 100M free input tokens.
We’ll likely hit capacity fast and will add users as we add compute. Compute offers welcome 🙂.
Latency will be variable as we tune the platform to this new model and category of users.
Model speeds are 80ms for minimal context, 250ms for 32k, 660ms for 100k, and 2.5 seconds for 384k.
Visit: https://subq.ai/
۲۰ مهر ۱۴۰۵مشاهده در X
Subquadratic
Subquadratic — Efficiency is Intelligence
Subquadratic is a frontier AI research and infrastructure company building a new class of LLMs.
خواندن در سایت منبع
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.