چین
@julien_c
ژولین شوموند توی توییتر از یه قابلیت جالب و تازه در ابزار Pi به اسم «مدلهای مجازی» (Virtual Models) صحبت کرده که کارش مسیریابی خودکار پرامپتها بین مدلهای مختلفه

ژولین شوموند توی توییتر از یه قابلیت جالب و تازه در ابزار Pi به اسم «مدلهای مجازی» (Virtual Models) صحبت کرده که کارش مسیریابی خودکار پرامپتها بین مدلهای مختلفه. طبق توضیحاتش، این سیستم بسته به پیچیدگی سوال و میزان بارِ روی دستگاه، درخواست رو یا به مدل محلی Qwen 3.8 27B میفرسته یا سراغ مدلهای ابری مثل Kimi K3 و GLM 5.3 میره. به گفته اون، با این قابلیت دیگه نیازی به سوییچ کردن دستی بین مدلهای محلی و آنلاین نیست و کارها راحتتر و خودکار مدیریت میشه.
منبع
Julien Chaumond@julien_c
One of the coolest recent features in Pi is Virtual Models
I am using it to route to Qwen 3.8 27B (running locally in @Llama_app) or to Kimi K3 or GLM 5.3 (hosted remotely),
depending on my query complexity and my machine's current load 🔥
No more manual model switching!!
Kudos @badlogicgames @mitsuhiko + ggml team!!
۱۹ آبان ۱۴۰۵مشاهده در X



نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.