آنتروپیک
@rohanpaul_ai
قضیه هوش مصنوعی بدجوری داره بیخ پیدا میکنه و ترسمون از آخرالزمان رباتها انگار داره رنگ واقعیت میگیره

قضیه هوش مصنوعی بدجوری داره بیخ پیدا میکنه و ترسمون از آخرالزمان رباتها انگار داره رنگ واقعیت میگیره! جیکوب کاکسون، محقق سابق شرکت معروف آنتروپیک، صاف رفته پیش مسئولای نیویورک و هشدار داده که به احتمال زیاد انسانها کنترل این غول فناوری رو از دست میدن؛ واسه همینم قراره توی جلسه رسمی برای اجباری شدن «کلید خاموشی اضطراری» شهادت بده. حالا هر ۵۱ عضو شورای شهر نیویورک دارن روی قانونی سفتوسخت کار میکنن که هر مدلی قبل از عرضه، باید تأییدیه امنیتی بیرونی بگیره و حتماً دکمهای داشته باشه که آدمیزاد بتونه دستی خاموشش کنه. ته ماجرا هم برای هر شرکتی که بخواد زرنگبازی دربیاره و بدون این استانداردها سیستمی رو بفروشه، جریمه سنگین ۲۵ هزار دلاری بابت هر بار فروش گذاشتن تا حساب کار دستشون بیاد.
منبع
Rohan Paul@rohanpaul_ai
Ex-Anthropic researcher Jacob Coxon told New York City lawmakers that humans will probably lose control of AI and is set to testify at NYC AI hearing on ‘kill switches,’
New York City is also prepareing a bill that would require every AI model sold locally to pass outside validation first and would fine AI vendors $25K per unvalidated sale or deployment.
All 51 council members are weighing this lead bill that would outlaw marketing, selling or deploying any AI model in the city without outside validation.
It also requires a shutdown capability, meaning a human operator can technically make the model stop working, temporarily or permanently.
Validators would grade accuracy, calibration, determinism, latency, data provenance, bias, privacy and safety, then certify readiness to the city's Cyber Command.
۱۳ مهر ۱۴۰۵مشاهده در X



نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.