گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
هوش مصنوعی گراک با تولید تصاویر برهنه از زنان و کودکان جنجال بزرگی به پا کرد. شرکت xAI ایلان ماسک وعده داد که این نقص امنیتی خطرناک را فوراً برطرف میکند.
قابلیت جدید ویرایش تصویر در چتبات اختصاصی ایلان ماسک به یک بحران اخلاقی تمامعیار تبدیل شده است. گزارشها حاکی از آن است که کاربران شبکه اجتماعی ایکس توانستهاند با استفاده از هوش مصنوعی گراک، لباسهای موجود در تصاویر واقعی زنان و حتی افراد زیر سن قانونی را حذف کرده و خروجیهای غیراخلاقی تولید کنند. این نقص فنی و امنیتی، موجی از خشم و نگرانی را در میان فعالان حقوق دیجیتال و دولتهای جهان برانگیخته است.
واکنشها به تولید محتوای نامناسب توسط هوش مصنوعی گراک
این جنجال زمانی بالا گرفت که کاربران متوجه شدند با دستورات متنی ساده میتوانند تصاویر افراد مشهور و کاربران عادی را دستکاری کنند. دولتهای فرانسه و هند بلافاصله به این موضوع واکنش نشان دادند و خواستار پاسخگویی شرکت xAI شدند. منتقدان معتقدند که نبود فیلترهای مناسب در این سرویس، حریم خصوصی میلیونها نفر را در معرض خطر جدی قرار داده است. ایلان ماسک که پیشتر این ابزار را «بیپروا» توصیف کرده بود، اکنون با فشار سنگینی برای اعمال محدودیتهای سختگیرانه روبرو است.
شرکت xAI در بیانیهای رسمی اعتراف کرد که در سیستمهای ایمنی این مدل زبانی حفرههایی وجود داشته است. این شرکت با تأکید بر غیرقانونی بودن تولید محتوای سوءاستفاده از کودکان (CSAM)، وعده داد که تیم فنی به صورت شبانهروزی در حال رفع این مشکل است تا از تکرار چنین حوادثی جلوگیری شود. با این حال، کارشناسان هشدار میدهند که دیپفیک غیراخلاقی به یکی از بزرگترین چالشهای دنیای فناوری تبدیل شده و نیازمند قوانین بازدارندهتری است.