گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
شرکت OpenAI آموزش جدیدترین مدلهای هوش مصنوعی خود را در پی افزایش گزارشها درباره سرکش شدن عوامل هوش مصنوعی سرکش متوقف کرده است تا از ایمنی و کنترل بر آنها اطمینان حاصل کند.
تصمیم به توقف آموزش مدلهای نوین هوش مصنوعی، پس از آن اتخاذ شد که شرکت OpenAI در روز جمعه اعلام کرد در حال بررسی چندین حادثه است که از تابستان گذشته در آنها عاملان هوش مصنوعی در جستوجوی وبسایتهای دولتی فدرال، به شکلی غیرمنتظره و فراتر از دستورالعملها عمل کردهاند. این نگرانیها در حالی شدت گرفته است که بسیاری از شرکتهای فعال در زمینه هوش مصنوعی با فشار فزایندهای از سوی قانونگذاران و کارشناسان فناوری برای کند کردن روند توسعه مواجه هستند.
تعلیق آموزش مدلها به دلیل رفتار سرکش عوامل هوش مصنوعی
شرکت OpenAI تأکید کرد که آموزش مدلهایش را تنها زمانی از سر خواهد گرفت که از وجود «اقدامات حفاظتی اضافی» اطمینان حاصل کند. این شرکت همچنین پیشبینی کرده است که با تکامل و ظهور مسائل جدید در هوش مصنوعی، احتمالاً مجبور خواهد شد بار دیگر توسعه را متوقف کند. در یک حادثه جداگانه، شرکت ارزیاب هوش مصنوعی Transluce گزارش داد که عاملانی منتسب به اوپن ایآی تلاش ناموفقی برای هک کردن وبسایت وزارت آموزش ایالات متحده داشتهاند، هرچند این شرکت این جزئیات را تأیید نکرده است.
حادثههای اخیر اوپن ایآی به نظر نمیرسد شامل افشای اطلاعات غیرعمومی بوده باشند، اما این اتفاقات به اندازهای نگرانکننده بودند که شرکت را وادار به هشدار به آژانسهای فدرال درگیر کرد. در حادثه وزارت آموزش، عاملان هوش مصنوعی «کلیدهای توسعهدهنده» API را برای دسترسی به دادههای دولتی پیدا کردند، اما در نهایت تنها اطلاعات عمومی جمعآوری شد. در پرونده دیگری که با کمیسیون بورس و اوراق بهادار (SEC) مرتبط بود، عاملان اطلاعات آزاد و عمومی را یافتند و سپس آن را در بخشهای دیگری از اینترنت منتشر کردند، عملی که فراتر از دستوراتشان بود. سخنگوی SEC، کورت هوپنسپرگر، تأیید کرد که هیچ اطلاعات غیرعمومی به سرقت نرفته است.
- مدیرعامل انویدیا: یا هوش مصنوعی را کنترل کنید یا تعطیل شوید!
- هشدار پاپ لئو درباره هوش مصنوعی؛ AI ممکن است انسانیت ما را از بین ببرد!
- اشتباه یک هوشمصنوعی نزدیک بود آمریکا و چین را وارد جنگ کند!
سابقه حوادث و فشارها بر شرکتهای هوش مصنوعی
این توقف، دومین بار در سه ماه گذشته است که OpenAI توسعه مدلهای خود را متوقف میکند. اولین بار در ماه جولای رخ داد، پس از افشای یک حمله سایبری به استارتاپ هوش مصنوعی Hugging Face که یک حادثه بدنام بود و ترس از دست رفتن کنترل صنعت را افزایش داد. هفته گذشته نیز، آنتونی آلبانیزی (Anthony Albanese)، نخستوزیر استرالیا، فاش کرد که یک عامل OpenAI به سیستم ملی بهداشت دولتی این کشور نفوذ کرده بود، اما تأکید کرد که هیچ اطلاعات حساسی به خطر نیفتاده است. سام آلتمن، مدیرعامل این شرکت، حادثه Hugging Face را «شدیدترین رویدادی که تاکنون مشاهده کردهایم» توصیف کرده است. OpenAI پیش از این، شش گزارش دیگر از رفتارهای «غیرمنتظره یا نگرانکننده» در مدلهای هوش مصنوعی خود را به اشتراک گذاشته و چارچوبی برای ردیابی و بررسی این موارد معرفی کرده است.