اشتباه یک هوش‌مصنوعی نزدیک بود آمریکا و چین را وارد جنگ کند!

یک خطای هوش مصنوعی نزدیک بود آمریکا و چین را به آستانه درگیری نظامی بکشاند، رویدادی که بار دیگر نگرانی‌ها را درباره دقت سیستم‌های خودکار در تصمیم‌گیری‌های حساس امنیتی افزایش داد.

در سال‌های اخیر، همگام با پیشرفت‌های خیره‌کننده در حوزه هوش مصنوعی، بحث‌ها پیرامون کاربردهای این فناوری در صنایع نظامی نیز شدت گرفته است. استفاده از سیستم‌های هوشمند در ارتش‌ها، هرچند نویدبخش کارایی بیشتر است، اما مخاطرات پنهانی را نیز به همراه دارد. حادثه‌ای که اخیراً در خاورمیانه رخ داد، به وضوح نشان می‌دهد که چگونه یک اشتباه کوچک فناوری می‌تواند تبعات بسیار بزرگی در پی داشته باشد. این رویداد بار دیگر بر لزوم ارزیابی دقیق و مستمر سیستم‌های هوش‌مصنوعی نظامی تاکید می‌کند.

اشتباه هوش مصنوعی: آغازگر احتمالی یک درگیری بزرگ

به گزارش سی‌ان‌ان، منابعی در ارتش آمریکا فاش کردند که در بهار امسال، این کشور بر اساس اطلاعات نادرست یک گزارش مبتنی بر خطای هوش مصنوعی، نزدیک بود یک کشتی چینی را در خاورمیانه متوقف کند. این گزارش، تولید شده توسط یک چت‌بات هوش‌مصنوعی، ادعا می‌کرد کشتی حامل مواد تسلیحات هسته‌ای است. نیروهای مسلح آماده سوار شدن و هواپیماهای نظامی نیز در آسمان بودند. اما پیش از اقدام، مقامات با بررسی دقیق‌تر متوجه شدند که گزارش حداقل تا حدی توسط هوش مصنوعی تولید شده و اطلاعات آن کاملاً غلط است. یک تحلیلگر از چت‌باتی ناشناس خواسته بود تا اطلاعاتی را درباره محتویات کشتی ارزیابی کند؛ اطلاعاتی که از فرماندهی عملیات ویژه اقیانوس آرام نشأت گرفته بود. هنوز مشخص نیست این چت‌بات دولتی بوده یا تجاری.

یک مقام آگاه به استقرار هوش‌مصنوعی در ارتش آمریکا گفت که تحلیلگر مربوطه با استفاده از هوش مصنوعی، گزارشی بر اساس پاسخ اشتباه چت‌بات نوشت که منجر به آماده‌باش نظامی شد. این حادثه نشان‌دهنده تلاش ارتش آمریکا برای تسریع در به‌کارگیری هوش مصنوعی در بحبوحه درگیری‌هایش با ایران است. در ژانویه، «پیت هگسث» (Pete Hegseth)، وزیر دفاع، برنامه‌هایی برای استفاده تهاجمی‌تر از هوش مصنوعی اعلام کرد و هشدار داد که عقب ماندن در این فناوری می‌تواند ابتکار عمل را به رقبا واگذار کند. تحلیلگران نظامی نیز تحت فشار فزاینده‌ای هستند تا گزارش‌ها را با سرعت بیشتری با کمک هوش مصنوعی منتشر کنند.

چالش‌های هوش مصنوعی در ارتش آمریکا؛ از دقت تا تلفات انسانی

ارتش آمریکا به‌طور عمده از هوش مصنوعی برای تحلیل اطلاعات، لجستیک و هدف‌گیری استفاده می‌کند. به عنوان مثال، کلود از Anthropic، در حملات اولیه آمریکا در جنگ با ایران، نقش کلیدی داشت، از جمله حمله‌ای که به ترور و شهادت رهبر جمهوری اسلامی ایران منجر شد.

با این حال، هدف‌گیری مبتنی بر اطلاعات قدیمی توسط هوش‌مصنوعی ممکن است به حمله‌ای به مدرسه‌ای در میناب که منجر به کشته شدن ۱۶۸ نفر، بیشتر کودکان، شد، نیز دخیل باشد؛ حمله‌ای که کارشناسان سازمان ملل آن را جنایت جنگی دانسته‌اند. مقامات آمریکایی به سی‌ان‌ان گفتند که حادثه کشتی چینی تنها باری نیست که ارتش با خطاهای هوش مصنوعی مواجه شده است.