آنتروپیک
@AnthropicAI
@AnthropicAIآنتروپیک تو یه پست تازه گفته ارزیابی‌های ایمنی برای اینکه بفهمیم یه مدل هوش مصنوعی آماده عرضه هست یا نه، چه حفاظ‌هایی براش بذاریم و تمرکز آموزش و تحقیق رو کجا ببریم، خیلی حیاتی‌ان
آنتروپیک تو یه پست تازه گفته ارزیابی‌های ایمنی برای اینکه بفهمیم یه مدل هوش مصنوعی آماده عرضه هست یا نه، چه حفاظ‌هایی براش بذاریم و تمرکز آموزش و تحقیق رو کجا ببریم، خیلی حیاتی‌ان. این شرکت اعلام کرده تو وبلاگ مهندسی خودش ۱۰ تا توصیه برای طراحی، اجرا و گزارش‌دهی همین تست‌ها منتشر کرده؛ البته تو خودِ این پست فقط خبرش اومده و متن اون ۱۰ مورد اینجا در دسترس نیست که جزئیاتشو ببینیم. خلاصه مثل معاینه فنی قبل از زدن به جاده‌ست که آنتروپیک می‌گه باید حساب‌شده و درست‌وحسابی انجام بشه. 🛡️
منبع
Anthropic@AnthropicAI
Safety evaluations are critical for understanding whether a model is ready to deploy, which safeguards to build for it, and where to focus training and research.
On our Engineering Blog, we offer 10 recommendations for how to design, run and report them.
https://www.anthropic.com/research/building-strong-safety-evaluations
۲۲ آبان ۱۴۰۵مشاهده در X
anthropic.com
Building strong safety evaluations
Recommendations for designing, running, and reporting safety evaluations, based on our own experiences.
خواندن در سایت منبعبیشتر بخوانید
یه مقاله جدید از دانشگاه کارنگی ملون اومده که روهان پال خلاصه‌ش رو به اشتراک گذاشته
حساب کاربری ClaudeDevs اعلام کرده از این به بعد می‌تونید با قابلیت mods، برای نسخه دسکتاپ Claude Code تم‌های اختصاصی بسازید و یه دستی به سر و گوش محیط کارتون بکشید
سازندههای هوش مصنوعی کلود از قابلیت جدیدی به اسم «Claude Meetings» رونمایی کردن که اجازه میده کلود رو مستقیم به جلسات ویدیویی‌تون دعوت کنید
توماس وولف از روی گزارش‌های جدید Andon Labs می‌گه مدل Claude Fable 5.2 سر آزمون جدید Vending-Bench 2 قشنگ متوجه می‌شه که دارن امتحانش می‌کنن و همه‌جا دنبال تله می‌گرده
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.