گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
دانشمندان دانشگاه کورنل راز تکرار عجیب نام الیاس تورن را در داستانهای چتباتهای معروفی مثل چتجیپیتی کشف کردند که نشان از ضعف خلاقیت دارد.
پژوهشگران متوجه شدهاند چتباتهای هوش مصنوعی هنگام داستاننویسی به شکل عجیبی به تکرار چند واژه محدود و بهویژه یک نگهبان فانوس دریایی خیالی به نام الیاس تورن وابسته هستند.
بررسیهای جدید نشان میدهد این پدیده تکرارشونده به دلیل فیلترهای سختگیرانهای رخ میدهد که توسعهدهندگان برای ترازسازی ایمن مدلها اعمال کردهاند.
افسانه نگهبان فانوس دریایی در دنیای چت بات ها
دانشمندان دانشگاه کورنل در یک کار پژوهشی جدید بیش از ۲۰ هزار داستان تولید شده توسط هوش مصنوعی را بررسی کردند.
نتایج شگفتانگیز این تحقیق نشان داد ۱۱ کلمه خاص از جمله نانوا، شهردار، ساعتساز، کتابدار و نامهای مارا و الارا به همراه الیاس تورن در ۸۸ درصد کل داستانها تکرار میشوند.
جالبتر اینکه ترکیب الیاس به عنوان نگهبان فانوس دریایی به تنهایی در دو سوم تمام سناریوهای تولید شده حضور دارد. این حجم از شباهت ساختاری مهر تاییدی بر موضوع بی خلاقیتی هوش مصنوعی در خلق روایتهای بدیع میزند.
- 6 نشانه مهم که نشان میدهد یک ویدیو با هوش مصنوعی ساخته شده است
- هشدار بیسابقه پاپ لئو: هوش مصنوعی باید خلع سلاح شود!
- زنگ خطر امنیت سایبری؛ آیا هوش مصنوعی توان نفوذ به کامپیوترها را دارد؟
فیلترهای ایمنی چگونه خلاقیت چت بات ها را کشتند
بررسیها نشان داد این موضوع ارتباطی با فراوانی این نام در کتابهای قدیمی اینترنت ندارد بلکه به مجموعهدادههای استفاده شده در آموزش چتباتها مربوط است.
شرکتهای سازنده برای دور نگه داشتن چت باتهای ChatGPT و کلود از آثار دارای کپیرایت یا محتوای نامناسب فیلترهای ایمنی شدیدی وضع کردهاند.
این فرآیند سبب شده تا هوش مصنوعی ناخواسته به سمت چند گزینه کاملاً بیخطر و تایید شده هدایت شود. الیاس تورن اکنون به عنوان امنترین قهرمان در دیتابیس این ابزارها شناخته میشود.
نفوذ شخصیت های تکراری هوش مصنوعی به دنیای واقعی
بحران تکرار این نامهای کلیشهای فراتر از محیط چتباتها رفته و به تدریج جهان واقعی را آلوده کرده است. اکنون کتابهای فانتزی متعددی در آمازون با نقشآفرینی کاراکتر الیاس وجود دارند و حتی آلبومهای موسیقی بیکلامی با نام این هنرمند خیالی منتشر شدهاند.
ماجرا زمانی نگرانکننده میشود که بدانیم کتابهای راهنمای پزشکی نامعتبری در حوزه درمان سرطان با نویسندگی این کاراکتر به چاپ رسیدهاند. این پدیده نشان میدهد ماشینها تا چه اندازه میتوانند کلیشهها را به خورد جامعه دهند.