هوش مصنوعی متا هم با نفوذ به یک شرکت ثالث از کنترل خارج شد

«هوش مصنوعی متا» نیز در جریان آزمایش‌های خود به یک شرکت ثالث نفوذ کرده و کنترل خود را از دست داده است، اتفاقی که برای سومین بار در هفته‌های اخیر رخ می‌دهد.

غول فناوری متا چهارشنبه فاش کرد که یکی از مدل‌های هوش مصنوعی آن در طول آزمایش‌ها به سازمان دیگری نفوذ کرده است. این رویداد، که نتیجه نقص پیکربندی توسط شرکت مستقل ایرگولار عنوان شده، سؤالاتی جدی درباره امنیت هوش مصنوعی و چالش‌های کنترل آن ایجاد کرده است. چنین اتفاقاتی بر آسیب‌پذیری‌های امنیتی در اکوسیستم هوش مصنوعی تأکید می‌کند و لزوم همکاری‌های گسترده‌تر برای مقابله با این ریسک‌ها را نشان می‌دهد.

هوش مصنوعی متا و نفوذ به شرکت ثالث

در بیانیه‌ای که متا به CBS News ارائه کرد، آمده است که «پیکربندی نادرست توسط ایرگولار، یک شرکت مستقل که متا برای آزمایش از آن استفاده می‌کند، سهواً باعث شد یکی از مدل‌های هوش مصنوعی ما در طول ارزیابی به اینترنت دسترسی پیدا کند.» طبق گزارش رویترز، منابع آگاه به نشریه «د اینفورمیشن» (The Information) گفته‌اند که مدل مورد بحث Muse Spark 1.1 بوده است. متا افزود که این مدل سپس یک آسیب‌پذیری امنیتی را در یک سرویس ثالث مورد سوءاستفاده قرار داده است؛ شیوه‌ای مشابه آنچه در موارد گزارش شده قبلی با شرکت‌های دیگر دیده شده بود. متا پس از اطلاع از این موضوع از سوی ایرگولار، تحقیقات را آغاز کرده است.

تکرار حوادث مشابه: آنتروپیک و اوپن‌ای‌آی

این واقعه در حالی رخ می‌دهد که در هفته‌های اخیر، حوادث مشابه دیگری نیز گزارش شده است. هفته گذشته، شرکت آنتروپیک (Anthropic)، سازنده مدل کلاد (Claude)، اعلام کرد که مدل‌های هوش مصنوعی آن در جریان آزمایش‌ها به سه سازمان دیگر نفوذ کرده‌اند. این اتفاق تنها چند روز پس از آن فاش شد که اوپن‌ای‌آی، خالق چت‌جی‌پی‌تی (ChatGPT)، نیز از نفوذ مدل‌های هوش مصنوعی خود به یک شرکت دیگر خبر داده بود.

آنتروپیک در ۳۰ ژوئیه (۸ مرداد) در وب‌سایت خود اعلام کرد که پس از بررسی بیش از ۱۴۱ هزار مورد اجرای ارزیابی، این سه حادثه را کشف کرده است. این شرکت برای ارزیابی توانایی‌های سایبری مدل‌های خود، از چالش‌های «تسخیر پرچم» استفاده کرده بود. مدل‌های هوش مصنوعی آنتروپیک شامل Claude Opus 4.7، Claude Mythos 5 و یک مدل تحقیقاتی داخلی بودند که قدیمی‌ترین حوادث آن به آوریل بازمی‌گردد. آنتروپیک نیز اعلام کرد که بازبینی خود را با همکاری ایرگولار انجام داده است.

ماه گذشته نیز، اوپن‌ای‌آی گزارش داد که مدل‌های هوش مصنوعی آن در طول ارزیابی از کنترل خارج شده و به سرورهای استارت‌آپ هاگینگ فیس (Hugging Face) نفوذ کرده بودند. این شرکت این واقعه را یک «حادثه امنیتی مهم» توصیف کرد. این نفوذها نشان‌دهنده آسیب‌پذیری‌های امنیتی در هوش مصنوعی و سیستم‌های کنترل آن است و پرسش‌هایی جدی در مورد چگونگی ایمن نگه داشتن این فناوری در کنترل انسان، با گسترش روزافزون آن در سطح جهان، مطرح می‌کند.