خطرات هوش مصنوعی

شرکت OpenAI آموزش جدیدترین مدل‌های هوش مصنوعی خود را در پی افزایش گزارش‌ها درباره سرکش شدن عوامل هوش مصنوعی سرکش متوقف کرده است تا از ایمنی و کنترل بر آن‌ها اطمینان حاصل کند.

مدیرعامل شرکت انویدیا خط‌ونشانی جدی برای توسعه‌دهندگان کشید و خواستار توقف فعالیت شرکت‌هایی شد که از پس کنترل پیامدها و خطرات هوش مصنوعی برنمی‌آیند.

با هشدار پاپ لئو چهاردهم در سفر رسمی به فرانسه، بحث‌های جدی درباره آینده هوش مصنوعی و جایگاه انسانیت در عصر فناوری‌های نوین آغاز شده است.

با وجود نگرانی‌های فزاینده درباره خطرات هوش مصنوعی، جنسن هوانگ، مدیرعامل انویدیا، با قاطعیت هرگونه ادعای نابودی جهان با هوش مصنوعی تا سال ۲۰۳۰ را رد کرد و آن را «صفر درصد» خواند.

یک خطای هوش مصنوعی نزدیک بود آمریکا و چین را به آستانه درگیری نظامی بکشاند، رویدادی که بار دیگر نگرانی‌ها را درباره دقت سیستم‌های خودکار در تصمیم‌گیری‌های حساس امنیتی افزایش داد.

نگرانی‌ها درباره ساخت سلاح‌های بیولوژیکی توسط هوش مصنوعی و تهدید آن برای بشریت، در حالی که واقعی به نظر می‌رسد، طبق نظر کارشناسان حوزه امنیت زیستی تا حد زیادی اغراق شده است.

سم آلتمن، مدیرعامل OpenAI، با وجود نگرانی‌های فزاینده درباره خطرات هوش مصنوعی معتقد است وقوع برخی حوادث در این فناوری اجتناب‌ناپذیر است، اما او بر اهمیت نحوه واکنش صنعت تاکید دارد.

در بحبوحه افزایش نگرانی‌ها از توسعه هوش مصنوعی‌های پیشرفته، مفهوم کلید خاموشی هوش مصنوعی به عنوان راهی برای توقف اضطراری سیستم‌های سرکش، مورد توجه کارشناسان و قانون‌گذاران قرار گرفته است.

با توجه به نگرانی‌های فزاینده درباره ایمنی هوش مصنوعی، مدیرعامل شرکت پیشرو آنتروپیک خواستار توقف سرعت توسعه این فناوری شد و برنامه‌ای سه‌مرحله‌ای برای جلوگیری از خطرات احتمالی ارائه کرد.

شرکت هوش مصنوعی آنتروپیک در تازه‌ترین گزارش خود مدعی شد ایران از مدل زبانی کلاود در عملیات‌های نظامی علیه پایگاه‌ها و نیروهای آمریکایی در منطقه خاورمیانه بهره برده است.