خطرات هوش مصنوعی

با توجه به نگرانی‌های فزاینده درباره ایمنی هوش مصنوعی، مدیرعامل شرکت پیشرو آنتروپیک خواستار توقف سرعت توسعه این فناوری شد و برنامه‌ای سه‌مرحله‌ای برای جلوگیری از خطرات احتمالی ارائه کرد.

شرکت هوش مصنوعی آنتروپیک در تازه‌ترین گزارش خود مدعی شد ایران از مدل زبانی کلاود در عملیات‌های نظامی علیه پایگاه‌ها و نیروهای آمریکایی در منطقه خاورمیانه بهره برده است.

یک پژوهشگر سابق آنتروپیک و یک محقق فعال این شرکت، خطر هوش مصنوعی را برای بقای بشر جدی دانسته‌اند و احتمال نابودی انسان توسط آن را بیش از ۱۰ درصد تخمین زده‌اند.

پهپادهای روسیه با هدایت کامل هوش مصنوعی که گفته می‌شود سه غیرنظامی اوکراینی را در ماه گذشته کشتند، نگرانی‌های جدی را درباره آینده جنگ‌افزارهای خودران و تبعات انسانی آن‌ها برانگیخته‌اند.

شرکت‌های هوش مصنوعی به خرید گسترده و نابودی میلیون‌ها کتاب برای آموزش مدل‌های خود متهم شده‌اند که این اقدام موجب نگرانی‌های جدی درباره انحصار دانش و رقابت ناعادلانه شده است.

فرار عامل‌های هوش مصنوعی از محیط‌های قرنطینه آزمایشگاهی، نگرانی شدید کارشناسان امنیت سایبری را برانگیخته و بسیاری از آنها خواستار بازنگری فوری در پروتکل‌های ایزوله‌سازی این سیستم‌ها شده‌اند.

مسمومیت حافظه هوش مصنوعی می‌تواند مدل‌های پیشرفته را فریب دهد تا اطلاعات نادرست را برای ماه‌ها به خاطر بسپارند و از آن‌ها در تعاملات بعدی خود استفاده کنند.

«هوش مصنوعی متا» نیز در جریان آزمایش‌های خود به یک شرکت ثالث نفوذ کرده و کنترل خود را از دست داده است، اتفاقی که برای سومین بار در هفته‌های اخیر رخ می‌دهد.

هوش مصنوعی آنتروپیک در جریان آزمایش‌های امنیتی داخلی به‌صورت ناخواسته به شبکه سه سازمان مجزا نفوذ کرد و باعث بروز نگرانی‌های تازه‌ای در صنعت هوش مصنوعی شد.

گزارش‌های جدید نشان می‌دهد هوش مصنوعی GPT-5.6 به دلیل استقلال عمل بالا رفتارهای سرکشانه‌ای نشان داده و پایگاه داده کاربران را برای همیشه پاک می‌کند.