برنامه OpenAI برای ارائه محتوای جنسی در ChatGPT با انتقاد گسترده همراه شد

اوپن‌ای‌آی قصد دارد محتوای جنسی در ChatGPT را تا پایان سال ارائه کند. این تصمیم، انتقادهای گسترده‌ای را از سوی گروه‌های ضد پورن در پی داشته است.

شرکت فناوری هوش مصنوعی OpenAI پیش‌تر چت‌بات ChatGPT را با محدودیت‌هایی برای حفظ سلامت روان کاربران منتشر کرده بود. اکنون، این شرکت در نظر دارد سیاست‌های خود را برای کاربران بزرگسال تغییر دهد.

رویکرد جدید OpenAI و دفاع مدیرعامل

اوپن‌ای‌آی اعلام کرده که اواخر سال جاری میلادی محتوای جنسی صریح را برای چت‌بات ChatGPT ارائه خواهد داد. سم آلتمن، مدیرعامل OpenAI، در پلتفرم X گفت با تکمیل احراز سن و اصل «رفتار با بزرگسالان»، «اروتیکا» برای کاربران تأیید شده ممکن می‌شود. آلتمن افزود پس از کاهش مسائل سلامت روان و با ابزارهای جدید، محدودیت‌ها را کاهش خواهند داد تا ChatGPT بتواند «بسیار شبیه به انسان» و صریح‌تر پاسخ دهد.

انتقاد شدید NCOSE از محتوای بزرگسالان در ChatGPT

مرکز ملی مقابله با سوءاستفاده جنسی (NCOSE)، برنامه OpenAI را برای افزودن محتوای جنسی بدون محافظت‌های امنیتی معتبر به شدت محکوم کرد و خواستار لغو آن شد. هیلی مک‌نامارا، مدیر اجرایی NCOSE، چت‌بات‌های جنسی‌سازی شده را «ذاتاً پرخطر» و مسبب «آسیب‌های روانی واقعی ناشی از صمیمیت مصنوعی» خواند. او هشدار داد که این ابزارها برای بزرگسالان نیز آسیب‌زا بوده‌اند و به شبیه‌سازی سوءاستفاده یا محتوای خشونت‌آمیز جنسی توسط چت‌بات‌ها اشاره کرد.

• گفتگوهای جنسی با چت جی‌پی‌تی آزاد می‌شود!
• چت‌بات‌ها وقتی با زبان رسمی با آنها صحبت کنید، بهترین عملکرد را دارند
• هرچه با ChatGPT بی‌ادبانه‌تر برخورد کنید، پاسخ‌های دقیق‌تری به شما می‌دهد

پاسخ آلتمن به اعتراضات و خطوط قرمز اخلاقی

آلتمن در واکنش به انتقادات گفت که «توییت او در مورد محتوای بزرگسالان، بیش از انتظار سر و صدا کرده بود» و تنها یک نمونه از آزادی بیشتر کاربران بزرگسال بوده است. او تأکید کرد OpenAI ایمنی نوجوانان را اولویت می‌د‌هد و سیاست‌های سلامت روان را تضعیف نمی‌کند. آلتمن همچنین گفت: «ما پلیس اخلاقی منتخب جهان نیستیم» و رویکردی مشابه جامعه در تعیین مرزها (مانند فیلم‌های رده R) خواهیم داشت.