گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
شرکت OpenAI و وزارت دفاع آمریکا قراردادی مهم برای استقرار مدلهای هوش مصنوعی در شبکه این وزارتخانه امضا کردند. این توافق در حالی صورت میگیرد که پیش از این، دولت آمریکا با شرکت آنتروپیک بر سر رعایت اصول ایمنی هوش مصنوعی به مشکل خورده بود.
سام آلتمن، مدیرعامل OpenAI، این خبر را در شبکه اجتماعی X اعلام کرده و بر پایبندی شرکتش به دو اصل کلیدی شامل منع نظارت انبوه داخلی و مسئولیت انسانی در استفاده از نیرو تاکید کرده است. این قرارداد به دلیل رویکرد قبلی دولت آمریکا با شرکتهای توسعهدهنده هوش مصنوعی حائز اهمیت است.
جزئیات قرارداد و اصول ایمنی OpenAI
مدیرعامل OpenAI، سام آلتمن، در پست خود در X عنوان کرد که دو اصل مهم ایمنی شرکت، شامل منع نظارت انبوه داخلی و مسئولیتپذیری انسانی در استفاده از نیرو (از جمله سیستمهای تسلیحاتی خودران)، در این توافقنامه با وزارت دفاع آمریکا گنجانده شده و وزارتخانه نیز با رعایت آنها موافقت کرده است. او این وزارتخانه را «وزارت جنگ» نامید.
جنجال با Anthropic: چرا OpenAI موفق شد؟
این توافق اندکی پس از دستور دونالد ترامپ مبنی بر توقف استفاده تمامی سازمانهای دولتی از خدمات Anthropic و مدل Claude صورت گرفت. پیش از این، پیت هگست، وزیر دفاع آمریکا، شرکت Anthropic را تهدید کرده بود که در صورت عدم حذف گاردریلهای ایمنی هوش مصنوعی خود که مانع از استفاده برای نظارت انبوه و تسلیحات کاملاً خودران میشود، آن را «ریسک زنجیره تامین» معرفی خواهد کرد.
جرمی لوین، معاون ارشد وزیر در امور کمکهای خارجی و آزادی مذهبی، در X اعلام کرد که وزارت جنگ در قراردادهای خود «به برخی اختیارات قانونی موجود اشاره میکند و شامل مکانیسمهای ایمنی متفقالقولی است.» او افزود که OpenAI و xAI (که قبلاً Grok را در سیستمهای طبقهبندی شده وزارت دفاع مستقر کرده بود) این شرایط را پذیرفتهاند و این همان «مصالحهای بود که به Anthropic پیشنهاد شد و آنها رد کردند.» Anthropic نیز اندکی قبل از اعلام خبر OpenAI، موضع خود را مجدداً تکرار کرده بود و تاکید کرد هیچ میزان تهدیدی موضع آنها را در مورد نظارت انبوه و تسلیحات خودران تغییر نخواهد داد.
تعهدات OpenAI برای استقرار ایمن هوش مصنوعی
آلتمن همچنین گفت که OpenAI برای اطمینان از عملکرد صحیح مدلهایش، محافظتهای فنی ایجاد خواهد کرد. مهندسانی از این شرکت برای تضمین ایمنی مدلها با وزارت دفاع همکاری خواهند کرد و استقرار آنها فقط در شبکههای ابری انجام میشود. OpenAI به تازگی مشارکت با آمازون برای اجرای مدلهایش بر روی سرویسهای وب آمازون (AWS) برای مشتریان سازمانی را نیز اعلام کرده است که میتواند به استقرار در شبکههای دولتی ابری آمازون کمک کند.