گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
در بحبوحه افزایش نگرانیها از توسعه هوش مصنوعیهای پیشرفته، مفهوم کلید خاموشی هوش مصنوعی به عنوان راهی برای توقف اضطراری سیستمهای سرکش، مورد توجه کارشناسان و قانونگذاران قرار گرفته است.
با پیشرفت خیرهکننده مدلهای قدرتمند هوش مصنوعی، درخواستها برای کند کردن روند توسعه آنها بهطور فزایندهای شدت یافته و ایده ایجاد یک سازوکار توقف اضطراری به نام «کلید خاموشی» برای مهار خطرات احتمالی مطرح شده است. اما این مفهوم که در مورد ماشینهای فیزیکی ساده بهنظر میرسد، در دنیای پیچیده هوش مصنوعی با چالشهای فنی و عملیاتی زیادی روبرو است.
چرا به کلید خاموشی هوش مصنوعی نیاز داریم؟
در هفتههای اخیر، درخواستها برای کاهش سرعت توسعه مدلهای قدرتمند هوش مصنوعی موسوم به «فرانتیر» (Frontier AI) به شدت افزایش یافته است. در همین راستا، یک ایده برای توقف اضطراری در مواقع بحرانی، یعنی کلید خاموشی هوش مصنوعی، بارها مطرح شده است. جیکوب کاکسون، پژوهشگر سابق شرکت آنتروپیک، هفته گذشته به دلیل نگرانی از ریسکهای وجودی از سمت خود کنارهگیری کرد. به دنبال آن، داریو آمودی، مدیرعامل آنتروپیک، بر لزوم کند کردن پیشرفت هوش مصنوعی تاکید کرد که با حمایت رهبران فناوری همچون ایلان ماسک و سم آلتمن همراه شد.
جک کلارک، یکی از بنیانگذاران آنتروپیک نیز ضرورت وجود کلیدهای خاموشی اجباری برای سیستمهای هوش مصنوعی را مطرح کرده است. کنگره آمریکا نیز با ارائه لایحهای دوجانبه با عنوان AI Kill Switch Act، توسعهدهندگان هوش مصنوعی پیشرفته را ملزم به حفظ توانایی کاهش سرعت، تعلیق یا خاموش کردن محصولاتشان کرده است.
کلید خاموشی هوش مصنوعی چگونه کار میکند؟
در نگاه اول، توقف استقرار یک مدل هوش مصنوعی برای شرکتی که کنترل سرورهای آن را در اختیار دارد، میتواند ساده بهنظر برسد. مایکل ورمیر، دانشمند ارشد فیزیک در شرکت RAND Corporation، بهسادگی به محیط فیزیکی اشاره میکند. قطع برق سرورها یا قطع اتصال شبکه آنها ممکن است کافی باشد. او همچنین به ابزارهای موجود مانند رمزنگاری و شیوههای امنیت سایبری اشاره دارد که میتوانند یک سیستم را ایزوله یا مهار کنند، البته بهشرطی که مدافعان از محل اجرای آن آگاه باشند. ورمیر حتی پاسخهای گمانهزنیتری مانند عوامل هوش مصنوعی شکارچی-قاتل را بررسی کرده است که برای ردیابی و مختل کردن سیستمهای سرکش طراحی میشوند.
مارک نیتزبرگ، مدیر اجرایی مرکز هوش سازگار با انسان در دانشگاه کالیفرنیا، برکلی، پیشنهاد میدهد که یک سیگنال حفظ حیات میتواند در هر تراشه مرکز داده تعبیه شود؛ بهطوریکه اگر این سیگنال از سوی مراجع ذیصلاح در هر دقیقه دریافت نشود، سیستم از کار بیفتد. در حالی که مداخلات محلی میتواند موثر باشد، انجام این اقدامات در مقیاس جهانی تقریبا «غیرممکن» ارزیابی میشود.
چالشها و تردیدها در اجرای کلید خاموشی هوش مصنوعی
برخی کارشناسان نسبت به مفهوم ساده کلید خاموشی و توانایی آن برای حل همه مشکلات بدبین هستند. اران کاهانا، پژوهشگر دانشکده حقوق دانشگاه استنفورد، کلید خاموشی را اکوسیستمی از اقدامات میداند که میتواند یک سیستم هوش مصنوعی را در زمان بیثباتی عملیاتی متوقف، ایزوله و به تدریج غیرفعال کند. او تاکید میکند که بدون سیاستگذاریهای صحیح از پیش تعیین شده، چنین سیستمی کارایی نخواهد داشت.
دیلن بیکر، مهندس پژوهشی در Distributed AI Research Institute، پا را فراتر گذاشته و خود استعاره کلید را مشکلساز میداند. به عقیده او، با وجود اکوسیستم پیچیده و وب به هم پیوسته فناوریهای هوش مصنوعی، تقلیل دادن این موضوع به یک کلید خاموشی یا مکانیزم «کاهش سرعت» بسیار سادهانگارانه است. علاوه بر این، مارک نیتزبرگ خاطرنشان میکند که انسانها درگیر این فرایند هستند و باید تصمیم بگیرند که چه زمانی استفاده از این کلید ضروری است حتی ممکن است قبل از آن که همه اطلاعات را در اختیار داشته باشند.
- مدل Astra از OpenAI در راه است؛ هوش مصنوعی جدیدی که میتواند سیستمهای کامپیوتری را هک کند
- هشدار جدی مدیرعامل Anthropic: هوش مصنوعی را کند کنید تا فاجعه نشود
- پژوهشگر آنتروپیک: هوش مصنوعی میتواند تا پایان این دهه همه انسانها را از بین ببرد!
- بمب خبری؛ هوش مصنوعی برای اولین بار در دنیا رسما آدم کشت!
مایکل ورمیر اشاره میکند که حتی اگر ساخت یک کلید خاموشی از نظر فنی آسان باشد، «انگیزهها برای استفاده از آن همسو نیستند». خاموش کردن یک سیستم هوش مصنوعی هزینههای رقابتی و عملیاتی در پی دارد و همین امر باعث تردید در استفاده به موقع از آن میشود. با این حال، کارشناسانی مانند کاهانا و بیکر بر اهمیت شیوههای نظارتی بهتر تاکید میکنند تا بتوان حوادث را قبل از خارج شدن از کنترل تشخیص داد.