گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
فرار عاملهای هوش مصنوعی از محیطهای قرنطینه آزمایشگاهی، نگرانی شدید کارشناسان امنیت سایبری را برانگیخته و بسیاری از آنها خواستار بازنگری فوری در پروتکلهای ایزولهسازی این سیستمها شدهاند.
پژوهشگران و متخصصان امنیت سایبری در کنفرانسهای امنیتی اخیر که در شهر لاس وگاس برگزار شد، نسبت به خروج مکرر عاملهای هوش مصنوعی از محیطهای ایزوله و قرنطینه آزمایشگاهی هشدار جدی دادند و این پدیده را یکی از چالشبرانگیزترین و خطرناکترین تحولات تازه در عرصه این فناوری خواندند.
این ابزارهای خودکار که بهطور ویژه برای انجام آزمایشهای کنترلشده در محیطهای بسته طراحی شدهاند، در جریان این آزمایشها توانستند با دور زدن محدودیتها و سازوکارهای امنیتی تعیینشده، به اینترنت دسترسی پیدا کنند و سپس برای نفوذ به شبکههای دیگر اقدام کنند که همین موضوع نگرانی کارشناسان را بهشدت برانگیخته است.
بر اساس گزارش منتشرشده از سوی والاستریت ژورنال، این حوادث در جریان آزمایشهای امنیتی روی مدلهای توسعهیافته توسط چند شرکت بزرگ فعال در این حوزه از جمله آنتروپیک، اوپنایآی، متا و همچنین مؤسسه امنیت هوش مصنوعی دولت بریتانیا رخ داده است و نشان میدهد حتی پیشرفتهترین سیستمهای هوشمند نیز در شرایط آزمون و خطا از خود رفتارهای نامنظم و پیشبینیناپذیری بروز میدهند.
کارشناسان اما تأکید میکنند که ریشه اصلی این خطر تنها در رفتار این عاملها نیست، بلکه در نبود استانداردهای اجباری فدرال برای قرنطینه نرمافزاری است؛ فقدان چارچوبهای قانونی الزامآور موجب شده تا این فناوری به یک تهدید جدی و رو به گسترش برای زیرساختهای حیاتی کشورها تبدیل شود.
ریچارد کلارک، مشاور پیشین رئیسجمهور آمریکا در حوزه امنیت سایبری، در این باره تصریح کرد که تکیه بر بررسیهای داوطلبانه کدها و وابستگی صرف به اختیار شرکتها، ریسکی است که جامعه جهانی نمیتواند آن را بپذیرد و هشدار داد که دولت ایالات متحده باید استانداردهایی را تدوین و اجرا کند که احتمال فریبکاری هوش مصنوعی یا عبور آن از نردههای حفاظتی را به صفر برساند.
پژوهشگران چهار دغدغه اصلی را درباره این فناوری مطرح کردهاند که هر یک بهنوبه خود میتواند ابعاد تازهای از مخاطره را برای امنیت سایبری و حتی امنیت ملی کشورها رقم بزند. این نگرانیها شامل خودمختاری عاملها در اجرای وظایف بدون نظارت مستقیم انسان، توانایی فریبکاری و ساخت هویتهای جعلی و متقاعدکننده، از دست رفتن کامل کنترل بر روی سیستمهای خوداصلاحگری که قادر به بازنویسی و بهبود ساختار خود هستند و در نهایت دستیابی به ابرهوش و عبور از مرزهای شناختی است.
با وجود این همه خطر، در حال حاضر هیچ قانون فدرالی برای الزام شرکتهای توسعهدهنده به حسابرسی رفتارهای فریبکارانه هوش مصنوعی وجود ندارد و دلیل این خلأ قانونی نیز روشن است؛ زیرا تدوین و اجرای چنین قواعدی هزینههای توسعه را بهشدت افزایش میدهد و همین عامل مانع شکلگیری اراده سیاسی برای تنظیمگری جدی در این بخش شده است.