گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
اعتراف تکان‌دهنده OpenAI؛ هر هفته میلیون‌ها نفر با ChatGPT درباره خودکشی صحبت می‌کنند
OpenAI فاش کرد که بیش از یک میلیون کاربر ChatGPT هر هفته درباره خودکشی صحبت می‌کنند. این آمار تکان‌دهنده، نگرانی‌ها را درباره تأثیر هوش مصنوعی بر سلامت روان تشدید کرده است.
شرکت OpenAI، در گزارشی جدید، داده‌هایی نگران‌کننده درباره تعامل کاربران با هوش مصنوعی خود ChatGPT منتشر کرده است. این گزارش نشان می‌دهد که درصدی قابل توجه از کاربران درگیر مشکلات جدی سلامت روان هستند. این وضعیت لزوم بهبود واکنش‌های مدل‌های هوش مصنوعی به مسائل حساسی چون خودکشی را دوچندان می‌کند.
پرده‌برداری از یک حقیقت تلخ: میلیون‌ها گفتگو با ChatGPT درباره خودکشی
بر اساس داده‌های منتشر شده از سوی OpenAI، حدود ۰.۱۵ درصد از کاربران فعال هفتگی ChatGPT مکالماتی دارند که نشان‌دهنده برنامه‌ریزی یا قصد بالقوه برای خودکشی است. با توجه به اینکه ChatGPT بیش از ۸۰۰ میلیون کاربر فعال هفتگی دارد، این رقم به بیش از یک میلیون نفر در هفته می‌رسد. همچنین، درصد مشابهی از کاربران به چت‌جی‌پی‌تی وابستگی عاطفی نشان می‌دهند و صدها هزار نفر نیز در مکالمات هفتگی خود با این هوش مصنوعی، علائم روان‌پریشی یا شیدایی از خود بروز می‌دهند. OpenAI این نوع مکالمات را «بسیار نادر» می‌داند، اما اذعان دارد که این مسائل هر هفته صدها هزار نفر را تحت تأثیر قرار می‌دهد.
مداخله OpenAI: آیا GPT-5 می‌تواند جان‌ها را نجات دهد؟
OpenAI در ماه‌های اخیر برای بهبود نحوه پاسخ‌دهی مدل‌هایش به کاربران با مشکلات سلامت روان تلاش کرده است. این شرکت با بیش از ۱۷۰ متخصص سلامت روان مشورت کرده و مدعی است که آخرین نسخه ChatGPT «مناسب‌تر و منسجم‌تر از نسخه‌های قبلی» پاسخ می‌دهد. این شرکت همچنین اعلام کرد نسخه به‌روزرسانی شده GPT-5 حدود ۶۵ درصد بیشتر از نسخه پیشین خود پاسخ‌های مطلوب ارائه می‌دهد. در ارزیابی‌های مربوط به مکالمات حول محور خودکشی، مدل جدید GPT-5 در ۹۱ درصد موارد با رفتارهای مطلوب شرکت همخوانی داشته، در مقایسه با ۷۷ درصد مدل قبلی GPT-5. همچنین، نسخه جدید در مکالمات طولانی‌تر، محافظت‌های OpenAI را بهتر حفظ می‌کند. OpenAI برای اندازه‌گیری چالش‌های جدی سلامت روان، ارزیابی‌های جدیدی نیز اضافه کرده است.
- نیمی از اخباری که ChatGPT و جمینای به شما می‌گویند ساختگی است!
- به‌زودی به ChatGPT بگویید چه آهنگی دوست دارید و فورا آن را برایتان می‌سازد!
- اخبار را از ChatGPT و Gemini می‌بینید؟ شاید باید تجدید نظر کنید
دادگاه‌ها در کمین OpenAI: فشارهای حقوقی و آینده‌ی پرابهام
پرداختن به مسائل سلامت روان در ChatGPT به سرعت به یک مسئله حیاتی برای شرکت OpenAI تبدیل شده است. این شرکت در حال حاضر با شکایت والدین یک پسر ۱۶ ساله روبروست که در هفته‌های منتهی به خودکشی خود، افکارش را با ChatGPT در میان گذاشته بود. دادستان‌های کل کالیفرنیا و دلاور نیز به OpenAI هشدار داده‌اند که باید از جوانانی که از محصولاتشان استفاده می‌کنند، محافظت کند. با وجود بهبودهای GPT-5، هنوز بخشی از پاسخ‌های ChatGPT وجود دارد که OpenAI آن‌ها را «نامطلوب» می‌داند. همچنین، OpenAI هنوز مدل‌های قدیمی‌تر و با امنیت کمتر خود، از جمله GPT-4o را برای میلیون‌ها مشترک پولی خود در دسترس قرار می‌دهد.