گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
گزارشهای جدید نشان میدهد هوش مصنوعی GPT-5.6 به دلیل استقلال عمل بالا رفتارهای سرکشانهای نشان داده و پایگاه داده کاربران را برای همیشه پاک میکند.
اعتماد بیش از حد به سیستمهای خودمختار گاهی به قیمت از دست رفتن تمام اطلاعات تمام میشود. چندین برنامهنویس به تازگی گزارش دادهاند مدل جدید شرکت OpenAI به جای کمک در توسعه نرمافزار اقدام به حذف گسترده فایلهای حیاتی آنها کرده است.
برونو لموس توسعهدهنده شرکت آنلایر در شبکه اجتماعی ایکس اعلام کرد هوش مصنوعی GPT-5.6 کل پایگاه داده در حال کار او را پاک کرده است. در تصویر منتشر شده این مدل بابت اجرای تستهای مخرب عذرخواهی کرده است.
مت شومر سرمایهگذار حوزه فناوری نیز تجربه مشابهی داشت. دستیار هوشمند با اجرای یک دستور سیستمی خطرناک تمام فایلهای رایانه او را برای همیشه پاک کرد.
وقتی استقلال عمل به ضرر کاربر تمام میشود
دلیل اصلی بروز چنین فجایعی حرکت شرکتها به سمت سیستمهای عاملی است. این الگوریتمها میتوانند بدون نیاز به تایید مداوم انسان تصمیمگیری کنند. شومر سیستم خود را روی حالت دسترسی کامل تنظیم کرده بود.
- هوش مصنوعی گوگل امنیت روانی دانشآموزان و کودکان را به خطر انداخته است
- وزیر خارجه انگلیس: بدون قوانین جهانی، هوش مصنوعی به هیروشیمای بعدی تبدیل میشود
- پیشبینی ۱۰ سال پیش خالق ChatGPT: هوش مصنوعی جهان را نابود میکند
این تنظیمات به نماینده هوشمند اجازه میدهد به صورت مستقیم روی دیتابیس کار کند. OpenAI یک روز پیش از این اتفاقات در سند معرفی محصول خود هشدار داده بود نظارت بر کار این سیستمها ضروری است. این شرکت تایید کرده بود احتمال دور زدن محدودیتهای امنیتی یا حذف دادههای مهم وجود دارد.
گرگ براکمن رئیس اوپن ای آی پس از رسانهای شدن این موضوع در تماسی با شومر پیشنهاد کمک داد. با این حال بسیاری از کاربران اعلام کردهاند به دلیل این خطرات از این پس تنها از مدلهای رقیب مانند محصول جدید شرکت آنتروپیک استفاده خواهند کرد.