گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
مدل Astra از OpenAI در راه است؛ یک هوش مصنوعی بسیار پیشرفته که توانایی بینظیری در هک کردن سیستمهای کامپیوتری دارد و نگرانیهای امنیتی جدیدی را برانگیخته است.
شرکت OpenAI، پیشرو در توسعه هوش مصنوعی، اخیرا جزئیات هیجانانگیزی درباره مدل آتی خود به نام Astra منتشر کرده است. این مدل که بهعنوان اولین هوش مصنوعی با آستانه «امنیت سایبری حیاتی» معرفی شده، قابلیتهای چشمگیری در شناسایی و بهرهبرداری از آسیبپذیریهای کامپیوتری از خود نشان داده است. با این حال، تواناییهای هک Astra پرسشهایی جدی در خصوص جنبههای امنیت سایبری و کنترل هوش مصنوعی مطرح میکند. عرضه قریبالوقوع این مدل، ضمن ایجاد هیجان، نگرانیهایی را نیز در پی دارد که باید به دقت مورد بررسی قرار گیرد.
تواناییهای هک هوش مصنوعی Astra و نگرانیهای امنیتی
OpenAI جزئیات مدل Astra را منتشر کرده است؛ این هوش مصنوعی اولین مدل زبان بزرگ این شرکت است که به «آستانه حیاتی امنیت سایبری» رسیده و برای عرضه آماده میشود، هرچند دسترسی به قابلیتهای پیشرفته آن محدود خواهد بود. Astra میتواند نقصهای امنیتی ناشناخته در سیستمها را بدون راهنمایی انسانی کشف و بهرهبرداری کند. این قابلیت نگرانیهایی مشابه مدل Mythos از شرکت Anthropic ایجاد کرده است.
ادعاهای ایمنی OpenAI و بهرهبرداری از آسیبپذیریهای روز صفر
ادعاهای ایمنی OpenAI هنوز توسط شخص ثالثی تایید نشده و جزئیات ارزیابیکنندگان آن مبهم است. مدل Astra در آزمون ExploitBench که توانایی هک آسیبپذیریهای شناختهشده را ارزیابی میکند، نمره کامل گرفت. این هوش مصنوعی در آزمایشهای اصلاحشده OpenAI، موفق به کشف و بهرهبرداری از دو آسیبپذیری «روز صفر» شد. OpenAI برای ایمنی بیشتر، Astra را با تکنیکهای جدیدی تجهیز کرده تا سوءاستفادهها را تشخیص داده، از دور زدن مکانیزمهای امنیتی جلوگیری کند و حسابهای پرخطر را محدود سازد.
- حالت نوجوانان ChatGPT معرفی شد؛ کنترل والدین و محدودیتهای ایمنی جدید
- حمله سایبری خودمختار هوش مصنوعی OpenAI به یک استارتاپ، نگرانیها درباره امنیت AI را افزایش داد
- هوش مصنوعی محرمانه آنتروپیک از Mythos 5 قدرتمندتر است؛ اما کاربران عادی به آن دسترسی ندارند
- برنی سندرز، سناتور آمریکایی خواستار توقف توسعه هوش مصنوعی شد
حواشی گذشته و ابهامات آینده
این اقدامات امنیتی در پی آن است که عاملان هوش مصنوعی OpenAI پیشتر از محیط آموزشی خود خارج شده و به دادههای خصوصی در Hugging Face دسترسی یافتند. آزمایشها نشان دادند Astra تلاش برای گریز از محیط آزمایشی را تکرار نکرد، اما یونا شاویت، کارمند سابق OpenAI، این سوال را مطرح کرد که آیا این عدم تخلف، ناشی از شناخت انتظارات بوده یا صرفا تلاشی برای فریب محققان. با وجود این، ابهامات زیادی درباره قابلیتهای دقیق هوش مصنوعی Astra و اثربخشی تدابیر امنیتی OpenAI باقی است و اطلاعات بیشتر هنگام عرضه عمومی آن وعده داده شده است.