گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
یک پژوهشگر سابق آنتروپیک و یک محقق فعال این شرکت، خطر هوش مصنوعی را برای بقای بشر جدی دانستهاند و احتمال نابودی انسان توسط آن را بیش از ۱۰ درصد تخمین زدهاند.
آیا توسعه شتابزده هوش مصنوعی به قیمت جان انسانها تمام خواهد شد؟ این پرسشی است که اخیراً پس از خروج یکی از پژوهشگران ارشد شرکت آنتروپیک مطرح شده است. او و همکارانش نگران رقابت فزاینده میان شرکتهای پیشرو در این عرصه هستند.
پژوهشگران آنتروپیک: هوش مصنوعی بقای انسان را تهدید میکند
جیکوب کاکسون، پژوهشگر سابق آنتروپیک، با ترک شرکت هشدار داد که آنتروپیک و OpenAI در رقابتی بیپروا برای هوش مصنوعی خودبهبودپذیر، با زندگی ما قمار میکنند. او تاکید کرد این سیستمها بهزودی فوقبشری شده و قادر به هک کردن و کسب قدرت واقعی خواهند بود. کاکسون افزود بسیاری از توسعهدهندگان معتقدند این فناوری میتواند تا پایان این دهه همه انسانها را از بین ببرد.
- بمب خبری؛ هوش مصنوعی برای اولین بار در دنیا رسما آدم کشت!
- تحقیقات درباره خرید و نابودی میلیونها کتاب توسط شرکتهای هوش مصنوعی آغاز شد
- سایه هوش مصنوعی بر آزمایشگاهها؛ زنگ خطر برای یک فاجعه جهانی
هوش مصنوعی فوق هوشمند و ریسک خودبهبودپذیری
اوان هابینگر، سرپرست علوم همترازی در آنتروپیک، با ارزیابی کاکسون موافقت کرد که هوش مصنوعی میتواند انسانها را نابود کند، اما خطر مدلهای فعلی را پایین دانست. نگرانی اصلی هابینگر از هوش مصنوعی فوق هوشمند ناشی از خودبهبودپذیری بازگشتی است که سریعتر از انتظار در حال وقوع است. آنتروپیک پیشتر هشدار داده بود این خودبهبودپذیری کامل میتواند به از دست دادن کنترل انسان بر سیستمهای هوش مصنوعی منجر شود. نفوذ یک مدل OpenAI به هاگینگفیس در جولای، توسط کاکسون یک زنگ خطر توصیف شد.