@alokbishoyi97

این بنده خدا آلوک بیشویی دست گذاشته رو یه درد اساسی تو دنیای هوش مصنوعی و می‌گه الان خریدن پردازش یا همون اینفرنس شده انتخاب بین بد و بدتر

این بنده خدا آلوک بیشویی دست گذاشته رو یه درد اساسی تو دنیای هوش مصنوعی و می‌گه الان خریدن پردازش یا همون اینفرنس شده انتخاب بین بد و بدتر؛ یا باید قرارداد سالانه ببندی و پول الکی برای ظرفیت خالی بدی، یا بری سراغ سرورلس و تا ترافیکت کشید بالا با محدودیت سرعت به فنا بری. حرفش اینه که مصرف پردازش یهو موجی بالا و پایین می‌شه و هر پروژه‌ای هم کیفیت، تاخیر و مدل پردازشی خاص خودشو می‌خواد، در حالی که این توان سخت‌افزاری تو کل دنیا بین کلی کلاد بزرگ و کوچیک پخش و پلا شده. واسه همین یه بازارچه‌ای به اسم useRouterPlus راه انداختن که شما مشخصات و ظرفیت مورد نیازت رو جار می‌زنی، تأمین‌کننده‌ها میان قیمت پیشنهاد میدن و بهترینش رو سوا می‌کنی. جالب اینجاست که کارشون حسابی گرفته و از همین اول بسم‌الله دارن به رکورد پردازش ماهانه یک تریلیون توکن می‌رسن.

منبع

Alok Bishoyi@alokbishoyi97
Buying inference today means picking between two bad options. Commit for a year and pay for capacity you don't use. Or go serverless and get rate limited the moment you grow. But usage arrives in bursts: a weekend eval, a two-week backfill, US business hours. And not all tokens are equal. You might need BF16, not quietly quantized FP8. Served in the US. A latency target. Zero retention. Fast tokens for your product, cheap batched tokens for the rest. The capacity exists. It's just scattered across big clouds and long-tail providers you've never heard of. So we built a marketplace. Introducing the @useRouterPlus managed inference marketplace. Post the inference you need, when you need them. Commitment you are comfortable with. Providers bid. You pick the one that meets your spec. we're already on track for 1 trillion tokens a month. http://routerplus.com/capacity
۱۲ مهر ۱۴۰۵مشاهده در X
RouterPlus

Provisioned inference requirement

Tell us the model, throughput, and region you need. RouterPlus shops the requirement across its provider network and replies with committed capacity, a better quote, or a backup provider.

خواندن در سایت منبع

نظرها

    تنظیمات

    پیش‌نمایش

    انویدیا از نسل تازه‌ی تراشه‌هایش رونمایی کرد؛ متن خبرها با همین اندازه و فاصله‌ی خطوط نمایش داده می‌شود. ۱۴۰۵ — 2026

    ظاهر و متن

    پوسته
    اندازه‌ی متن
    فاصله‌ی خطوط

    خواندن و نمایش

    نمای فهرست خبرها

    استوری‌ها

    چه خبرهایی پخش شوند
    ترتیب
    دیده‌شده‌هابدون باز کردن تک‌تک خبرها

    صدا

    اعلان‌ها و موضوع‌ها

    موضوع‌هایی که دنبال می‌کنیدهنوز هیچانتخاب موضوع‌ها

    صدای فارسی

    این دستگاه صدای فارسی ندارد. نمونه‌ی صداها را بشنوید و یکی را یک بار دانلود کنید تا خبرها و خلاصه‌ی روز را بشنوید.

    راه‌های دیگر

    ویدیوی خبر

    گفتگو

    … نفر آنلاین

      خواندن کامل