نیتن لمبرت یه زاویه دید متفاوت وسط این همه هایپ و سر و صدای هوش مصنوعی رو کرده که بدجور خوندن داره

نیتن لمبرت یه زاویه دید متفاوت وسط این همه هایپ و سر و صدای هوش مصنوعی رو کرده که بدجور خوندن داره. در حالی که خیلیا تو بوق و کرنا کردن که هوش مصنوعی با تقویت خودکار خودش قراره جهش وحشتناکی بزنه و زودتر از اون چیزی که فکرشو بکنیم خطرآفرین بشه، لمبرت تو مقالهاش از مفهومی به اسم «خوداصلاحی پراتلاف» دفاع میکنه. حرف حسابش اینه که بله، مدلها روند تحقیق و توسعه رو تندتر میکنن، اما خطای کار اونقدری زیاده که اجازه نمیده اون جهش انفجاری و بیمهار که همه ازش میترسن به این راحتیها اتفاق بیفته.
منبع
Nathan Lambert@natolambert
If you are looking for an alternate viewpoint today, which assumes AI models accelerate the process of AI research, but it doesn't result in rapid RSI and an explosion of near term risks: https://www.interconnects.ai/p/lossy-self-improvement
۱۹ شهریور ۱۴۰۵مشاهده در X
interconnects.ai
Lossy self-improvement
The case for why self-improvement is real but it doesn't lead to fast takeoff.
خواندن در سایت منبع
نظرها
هنوز نظری نیست.
بخش نظرها فعلاً در دسترس نیست.