گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
آنتروپیک، شرکت برجسته در حوزه هوش مصنوعی، برای مدیریت خطر هوش مصنوعی در زمینه تسلیحات متعارف، نیروی جدید استخدام میکند.
شرکت آنتروپیک که از پیشگامان توسعه هوش مصنوعی محسوب میشود، در اقدامی بحثبرانگیز، به دنبال استخدام فردی برای مدیریت سیاستگذاری استفاده از مدلهای هوش مصنوعی خود در تسلیحات متعارف است. این رویکرد جدید در حالی اتخاذ میشود که داریو آمودی، مدیرعامل آنتروپیک، اخیراً نسبت به پیامدهای فاجعهبار و نابودی بشریت توسط هوش مصنوعی هشدار داده بود. این تضاد آشکار، نگرانیهایی را در مورد تعهد واقعی شرکت به ایمنی هوش مصنوعی به وجود آورده است.
نگرانیها درباره هوش مصنوعی و تسلیحات متعارف
در تاریخ ۱۲ سپتامبر ۲۰۲۶، داریو آمودی، مدیرعامل شرکت آنتروپیک، مقالهای منتشر کرد و در آن از شرکتهای پیشرو در زمینه هوش مصنوعی خواست تا توسعه را برای جلوگیری از نابودی حیات بشر توسط هوش مصنوعی کُندتر کنند. تنها دو روز بعد، در ۱۴ سپتامبر ۲۰۲۶، آنتروپیک آگهی استخدام یک مدیر طراحی سیاست را برای رسیدگی به تسلیحات متعارف منتشر کرد؛ این یکی از واضحترین راههایی است که هوش مصنوعی میتواند جان انسانها را به خطر بیندازد.
این آگهی شغلی که در پلتفرم Daybook منتشر شد، مربوط به موقعیتی در تیم «حفاظت» آنتروپیک است که وظیفه آن «تعریف و حفظ محدودیتها در نحوه استفاده از Claude ذکر شده. نقش این فرد بهویژه، تعیین کاربردهای مجاز مدل هوش مصنوعی آنتروپیک در رابطه با تسلیحات و تشخیص خطوط قرمز خواهد بود. آگهی استخدام بیان میکند: «ایجاد یک مرز مشخص بین درخواستهای قابل قبول و مضر در این حوزه دشوار است، زیرا اجزای زیربنایی دارای کاربرد دوگانه هستند: همان قابلیتهایی که برای مهندسی و تحقیقات غیرنظامی به کار میروند، میتوانند در یک سیستم تسلیحاتی نیز مشارکت داشته باشند.» در این آگهی همچنین اشاره شده که این نقش «هر کلاس سلاح، تا سیستمهای خودمختاری که بدون مجوز انسانی اهداف را انتخاب و درگیر میکنند، را پوشش میدهد.»
هوش مصنوعی آنتروپیک در جنگ آمریکا و ایران استفاده شده است
آنتروپیک در زمینه خط قرمز خود در مورد سیستمهای تسلیحات خودمختار، عملکرد قابل تقدیری داشته است. این شرکت با پنتاگون به دلیل مخالفت با استفاده وزارت دفاع از مدلهای آن برای تسلیحاتی که نیاز به دخالت انسانی نداشته باشند، همکاری خود را قطع کرد.
اما در مورد تسلیحاتی که هنوز نیاز به فشار دکمه شلیک توسط انسان دارند، موضع شرکت بسیار نرمتر است. طبق گزارش رویترز، ابزارهای هوش مصنوعی آنتروپیک در حمله ایالات متحده به ایران مورد استفاده قرار گرفتند.
همچنین، وال استریت ژورنال گزارش داده که این فناوری در حمله آمریکا به ونزوئلا که منجر به دستگیری نیکلاس مادورو، رئیسجمهور ونزوئلا شد، نیز به کار رفته است. نامه هشداردهنده آمودی بر تهدیدات نظری و بالقوه مانند هکهایی که کل اینترنت را از کار میاندازند یا توسعه یک سلاح بیولوژیکی تمرکز دارد، نه سیستمهای تسلیحاتی که هوش مصنوعی هماکنون در آنها ادغام شده و جان انسانها را میگیرد. گیزمودو برای اظهارنظر درباره نحوه انطباق موضع آنتروپیک در مورد تسلیحات متعارف با فراخوان آمودی برای ایمنی هوش مصنوعی، با این شرکت تماس گرفت، اما تا زمان انتشار پاسخ دریافت نکرد.