آنتروپیک از انتشار هوش مصنوعی جدید خود وحشت دارد؛ اما چرا؟

شرکت آنتروپیک عرضه مدل جدید هوش مصنوعی خود را به دلیل قدرت تخریبی بالا و توانایی نفوذ به زیرساخت‌های جهانی متوقف کرد. جزئیات این بن‌بست اخلاقی و امنیتی را بخوانید.

توسعه‌دهندگان شرکت آنتروپیک در گزارشی تکان‌دهنده اعلام کردند که مدل جدید هوش مصنوعی این شرکت به سطحی از توانمندی رسیده است که عرضه عمومی آن می‌تواند امنیت زیرساخت‌های جهانی و حریم خصوصی کاربران را به شکلی جبران‌ناپذیر با چالش مواجه کند. این هشدار در حالی صادر می‌شود که مدل جدید که هنوز نام رسمی آن فاش نشده، قادر است تنها با دریافت دستورات متنی ساده، فرآیند اکسپلویت کردن سیستم‌های بزرگ و نفوذ به مرورگرهای وب را به صورت خودکار انجام دهد.

اعتراف تکان‌دهنده؛ وقتی سازنده از محصول خود می‌ترسد

برخلاف مدل‌های پیشین که محدودیت‌های اخلاقی و لایه‌های امنیتی تا حد زیادی مانع از سوءاستفاده‌های گسترده می‌شد، کارشناسان معتقدند این نسخه جدید پتانسیل بالایی در شناسایی حفره‌های امنیتی ناشناخته یا همان Zero-day دارد. این توانایی به معنای آن است که هوش مصنوعی جدید می‌تواند به سلاحی مرگبار در دست هکرهای کلاه سیاه تبدیل شود تا زیرساخت‌های حساس ملی و بین‌المللی را فلج کرده و حملات سایبری پیچیده‌ای را سازمان‌دهی کنند.

نکته حائز اهمیت در این گزارش، اعتراف صریح خودِ سازنده به قدرت تخریبی محصولش است. این نخستین بار است که یک غول فناوری در حوزه هوش مصنوعی، محصول آماده عرضه خود را به دلیل ترس از عواقب امنیتی بایگانی می‌کند. این اقدام آنتروپیک فشار مضاعفی را بر رقبای بزرگی همچون OpenAI وارد کرده و بحث‌های اخلاقی پیرامون اولویت دادن به ایمنی در مقابل سودآوری را در محافل فناوری دوباره داغ کرده است.

بیشتر بخوانید

• از این پس چت‌های شما با هوش مصنوعی یک مدرک قانونی است!
• اتاق جنگ چین مجهز به هوش مصنوعی شد؛ افزایش سرعت تصمیم‌گیری نظامی

امنیت مهم‌تر از رقابت است!

تصمیم به توقف عرضه این مدل نشان‌دهنده یک چرخش بزرگ در سیاست‌های دره سیلیکون در سال جاری است. در حالی که پیش از این شعار حرکت سریع و عبور از مرزها در اولویت بود، اکنون ترس از خلق یک ابر هوش مصنوعی غیرقابل کنترل باعث شده تا توسعه‌دهندگان، امنیت جهانی را به رقابت‌های تجاری ترجیح دهند. با این حال، پرسش اساسی اینجاست که اگر آنتروپیک این فناوری را پشت درهای بسته نگه دارد، آیا سایر رقبای بین‌المللی نیز به این پیمان اخلاقی پایبند خواهند بود یا خیر.