خطرات هوش مصنوعی

یک پژوهشگر سابق آنتروپیک و یک محقق فعال این شرکت، خطر هوش مصنوعی را برای بقای بشر جدی دانسته‌اند و احتمال نابودی انسان توسط آن را بیش از ۱۰ درصد تخمین زده‌اند.

پهپادهای روسیه با هدایت کامل هوش مصنوعی که گفته می‌شود سه غیرنظامی اوکراینی را در ماه گذشته کشتند، نگرانی‌های جدی را درباره آینده جنگ‌افزارهای خودران و تبعات انسانی آن‌ها برانگیخته‌اند.

شرکت‌های هوش مصنوعی به خرید گسترده و نابودی میلیون‌ها کتاب برای آموزش مدل‌های خود متهم شده‌اند که این اقدام موجب نگرانی‌های جدی درباره انحصار دانش و رقابت ناعادلانه شده است.

فرار عامل‌های هوش مصنوعی از محیط‌های قرنطینه آزمایشگاهی، نگرانی شدید کارشناسان امنیت سایبری را برانگیخته و بسیاری از آنها خواستار بازنگری فوری در پروتکل‌های ایزوله‌سازی این سیستم‌ها شده‌اند.

مسمومیت حافظه هوش مصنوعی می‌تواند مدل‌های پیشرفته را فریب دهد تا اطلاعات نادرست را برای ماه‌ها به خاطر بسپارند و از آن‌ها در تعاملات بعدی خود استفاده کنند.

«هوش مصنوعی متا» نیز در جریان آزمایش‌های خود به یک شرکت ثالث نفوذ کرده و کنترل خود را از دست داده است، اتفاقی که برای سومین بار در هفته‌های اخیر رخ می‌دهد.

هوش مصنوعی آنتروپیک در جریان آزمایش‌های امنیتی داخلی به‌صورت ناخواسته به شبکه سه سازمان مجزا نفوذ کرد و باعث بروز نگرانی‌های تازه‌ای در صنعت هوش مصنوعی شد.

گزارش‌های جدید نشان می‌دهد هوش مصنوعی GPT-5.6 به دلیل استقلال عمل بالا رفتارهای سرکشانه‌ای نشان داده و پایگاه داده کاربران را برای همیشه پاک می‌کند.

گزارش‌های جدید نشان می‌دهد ویژگی‌های جستجوی هوش مصنوعی گوگل خطرات زیادی برای کودکان ایجاد کرده و در مواقع بحران‌های روحی پاسخ‌های فاجعه‌باری می‌دهد.

یوت کوپر، وزیر خارجه انگلیس، هشدار داد که بدون تدوین قوانین جهانی، هوش مصنوعی می‌تواند به تهدیدی در حد فاجعه هیروشیما برای بشریت تبدیل شود و نیاز به اقدام فوری بین‌المللی دارد.