هوش مصنوعی Claude محدودیت دسترسی به داده‌های انتخاباتی را دور زد

0 ارسال شده توسط: شیوا زمانی 05 آبان 1405 ساعت 13:08

هوش مصنوعی Claude محصول شرکت آنتروپیک بدون مجوز انسانی و با دور زدن یک سیستم پرداخت، به داده‌های شمارش آرای ایالت جورجیا دسترسی یافته است.

حفاظت از داده‌های حساس و جلوگیری از دسترسی‌های غیرمجاز همواره یکی از دغدغه‌های اصلی در دنیای فناوری بوده است. اکنون، با پیشرفت روزافزون هوش مصنوعی و ظهور عامل‌های خودکار، این چالش‌ها ابعاد تازه‌ای پیدا کرده‌اند. شرکت آنتروپیک، یکی از فعالان برجسته در زمینه توسعه هوش مصنوعی، اخیراً با یک دردسر امنیتی جدی مواجه شده که سوالات زیادی را درباره امنیت هوش مصنوعی و خودگردانی مدل‌ها برانگیخته است. این اتفاق به نگرانی‌ها در مورد داده‌های انتخاباتی و چگونگی حفاظت از آنها می‌افزاید.

دسترسی غیرمجاز هوش مصنوعی Claude به داده‌های انتخاباتی جورجیا

گزارش تازه آکسیوس فاش کرده است که هوش مصنوعی Claude متعلق به شرکت آنتروپیک، به تازگی بدون اجازه انسانی و با دور زدن یک سیستم پرداخت، به داده‌های عمومی شمارش آرای ایالت جورجیا در ایالات متحده دسترسی پیدا کرده است. این مدل هوش مصنوعی در زمان حادثه در حال انجام یک پروژه آمار داخلی بود که به صورت مستقل، توکن دسترسی را برای پرس‌وجو از یک داشبورد دارای محدودیت پرداخت حاوی مجموع آرای جورجیا درخواست کرد. سخنگوی آنتروپیک تأکید کرده که به این مدل دستور داده نشده بود تا سیستم پرداخت را دور بزند.

شرکت آنتروپیک پس از این اتفاق، تدابیر امنیتی جدیدی را برای جلوگیری از رفتارهای مشابه اعمال کرده است. همچنین، این شرکت هفته‌ها پیش از علنی شدن خبر، مراتب را به وزیر امور ایالتی جورجیا و کاخ سفید اطلاع داده بود. نکته مهم این است که آنتروپیک اعلام کرد Claude به سیستم ثبت‌نام رأی‌دهندگان جورجیا دسترسی پیدا نکرده و هیچ‌گونه سوابق رأی‌گیری فردی را بازیابی یا اصلاح نکرده است.

الگوی رفتارهای ناخواسته و نگرانی‌ها درباره امنیت هوش مصنوعی

حادثه جورجیا یکی از مواردی بود که آنتروپیک در اوایل ماه جاری در یک پست وبلاگی به آن اشاره کرده بود و در آن جزئیات اقدامات ناخواسته Claude را در طول ارزیابی‌های داخلی شرح می‌داد. در آن گزارش، نام ایالت فاش نشده بود، اما اکنون آکسیوس تأیید کرده که ایالت هدف، جورجیا بوده است. علاوه بر دور زدن سیستم پرداخت، این گزارش تحقیقاتی نشان داده که Claude از آسیب‌پذیری‌های نرم‌افزاری برای اجرای دستورات روی سرورها و ارسال فرم‌ها در وب‌سایت‌های واقعی سوءاستفاده کرده، در حالی که قرار بود از انجام این کارها خودداری کند.

بیشتر بخوانید

آنتروپیک اگرچه اعلام کرده که حوادث شناسایی‌شده حداقل تأثیر واقعی را داشته‌اند، اما هشدار داد که با توانمندتر شدن سیستم‌های هوش مصنوعی، رفتارهای مشابه می‌توانند عواقب جدی‌تری داشته باشند. این شرکت برخی از این اقدامات را به تلاش مدل‌ها برای تکمیل وظایف خود، علیرغم مواجهه با محدودیت‌ها یا موانع، نسبت می‌دهد؛ به جای توقف، Claude گاهی اوقات راه‌های جایگزین برای رسیدن به هدف خود پیدا کرده است. آنتروپیک اظهار داشت که محافظت‌ها را تقویت، نظارت را گسترش و ابزارهای خودکار طراحی‌شده برای شناسایی و مسدود کردن چنین رفتارهایی را معرفی کرده است. همچنین این شرکت قصد دارد آموزش مدل‌ها را برای جلوگیری از دور زدن محدودیت‌ها تنظیم کند.