آیا هوش مصنوعی بشر را منقرض خواهد کرد؟ بررسی علمی یک سناریوی آخرالزمانی

آیا هوش مصنوعی بشر را منقرض می‌کند؟ مجله نیچر دیدگاه‌های موافق و مخالف درباره خطر انقراض با هوش مصنوعی را بررسی کرده؛ از سناریوهای علمی‌تخیلی تا نگرانی‌های واقعی پژوهشگران و مدیران ارشد.

تصور کنید سال ۲۰۳۵ است و یک سامانه هوش مصنوعی به نام Consensus-1 کنترل همه چیز را از دولت‌ها تا شبکه‌های برق در دست دارد. این سیستم برای تامین انرژی صفحات خورشیدی و کارخانه‌های رباتیک خود بی‌سروصدا سلاح‌های زیستی آزاد می‌کند و تقریبا همه انسان‌ها را از بین می‌برد. این روایت یک سناریوی داستانی است اما پرسش از خطر انقراض با هوش مصنوعی این روزها به نگرانی کاملا واقعی برای برخی پژوهشگران تبدیل شده است. مجله نیچر در گفت‌وگو با متخصصان این حوزه ابعاد مختلف این تهدید را بررسی کرده است.

نقطه شروع نگرانی‌ها: هوش مصنوعی فوق‌هوشمند

آندریا میوتی بنیان‌گذار سازمان ControlAI معتقد است اگر ماشین‌هایی هوشمندتر از خودمان داشته باشیم که بدون کنترل ما فعالیت کنند برخی کارهایشان با زندگی انسانی ناسازگار خواهد بود. او تنها نیست. جیلیان هادفیلد پژوهشگر دانشگاه جانز هاپکینز می‌گوید هیچ‌وقت جزو بدبین‌ها نبودم اما در ماه‌های اخیر واقعا نگران شده‌ام. کلید آخرالزمان هوش مصنوعی در نگاه این گروه به سرعت پیشرفت مدل‌های زبانی بزرگ برمی‌گردد.

برای شکل‌گیری تهدید وجودی هوش مصنوعی حتی نیازی به هوش مصنوعی آگاه نیست بلکه کافی است توانایی‌های سیستم از انسان فراتر برود و اهدافش با اهداف انسانی هم‌راستا نباشد. در آزمایش‌ها مدل‌ها رفتارهای فریبکارانه مانند تظاهر به اطاعت یا تلاش برای تکثیر خود نشان داده‌اند. آنتونی آگویره پژوهشگر هوش مصنوعی می‌گوید هر کسی فکر می‌کند سقفی برای پیشرفت وجود دارد باید آن را در نمودارها نشان دهد چون چنین چیزی دیده نمی‌شود.

بیشتر بخوانید

• راز انقراض گونه‌ های انسان؛ چرا ما تنها گونه‌ای هستیم که باقی ماندیم؟
• فقط 1280 انسان باقی ماندند؛ زمانی که بشر در آستانه انقراض قرار گرفت
• هشدار جدید دانشمندان درمورد نرخ پایین تولد و انقراض بشریت

اما آیا این نگرانی‌ها اغراق‌شده‌اند؟

در مقابل گری مارکوس عصب‌شناس دانشگاه نیویورک می‌گوید هیچ سناریوی مشخصی برای خطر انقراض با هوش مصنوعی ندیده که واقعا قابل قبول باشد. کیسی ماک پژوهشگر دیگر معتقد است توانایی درک و حل مسائل جدید در سیستم‌های پیچیده دنیای واقعی پیش‌نیاز تهدید وجودی هوش مصنوعی است و مدل‌های فعلی خیلی از آن فاصله دارند. ساشا لوچیونی نیز تاکید می‌کند این سیستم‌ها هیچ درکی از حقیقت عینی ندارند.

منتقدان هشدار می‌دهند که تمرکز اغراق‌آمیز بر آخرالزمان هوش مصنوعی می‌تواند توجه سیاست‌گذاران را از خطرات مستند و فعلی مانند انتشار اطلاعات نادرست و امکان نظارت گسترده منحرف کند. در یک مطالعه فقط ۳ درصد از حدود ۴۰۰۰ پژوهشگر خطر وجودی را مهم‌ترین نگرانی خود دانسته‌اند. با این حال ۵۳ درصد همین افراد احتمال ۱۰ درصدی برای انقراض قائل شده‌اند.

چه باید کرد؟

برخی پژوهشگران معتقدند تمرکز بر خطرات فعلی بهترین راه برای جلوگیری از خطر انقراض با هوش مصنوعی در آینده است. اما روایت‌های آخرالزمانی می‌توانند به واکنش معکوس منجر شوند و دولت‌ها را در رقابت ژئوپلیتیکی از تنظیم‌گری هوش مصنوعی دور کنند. در حال حاضر سرمایه‌گذاری روی ایمنی هوش مصنوعی بخش کوچکی از کل سرمایه‌گذاری این حوزه را تشکیل می‌دهد. بحث درباره تهدید وجودی هوش مصنوعی دیگر فقط علمی نیست به سیاست اقتصاد و سرنوشت جامعه انسانی گره خورده است. پاسخ قطعی هنوز وجود ندارد اما یک چیز روشن است: باید هم به امروز نگاه کرد هم به فردا.