گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
تحقیقات اخیر بی‌بی‌سی نشان می‌دهد که اخبار اشتباه هوش مصنوعی چالشی بزرگ برای کاربران است. چت‌بات‌ها در ارائه اطلاعات خبری دقت کافی ندارند و بسیاری از گزارش‌هایشان نادرست است.
ابزارهای نوین هوش مصنوعی روش تعامل کاربران با اینترنت را متحول کرده‌اند. پلتفرم‌هایی مانند ChatGPT و هوش مصنوعی گوگل جمینای برای خلاصه‌سازی و تحلیل اطلاعات طراحی شده‌اند. با این حال، پرسش‌های جدی در مورد دقت و قابل اعتماد بودن این فناوری‌ها مطرح است. نیاز به ارزیابی دقیق محتوای تولیدی آن‌ها بیش از پیش احساس می‌شود.
- اخبار را از ChatGPT و Gemini می‌بینید؟ شاید باید تجدید نظر کنید
- مرگ اصالت در عصر هوش مصنوعی؛ دیگر به چشم‌های خود هم اعتماد نکنید
- شرکت OpenAI ساخت دیپ فیک بازیگران در Sora را متوقف می‌کند
- بیش از 800 چهره سرشناس، نامه‌ای سرگشاده برای ممنوعیت هوش مصنوعی فوق هوشمند امضا کردند
نتایج تکان‌دهنده مطالعه بی‌بی‌سی
تحقیقات بی‌بی‌سی و ۲۲ سازمان رسانه‌ای عمومی در ۱۸ کشور و ۱۴ زبان نشان می‌دهد که حدود ۴۵ درصد از پاسخ‌های تولید شده توسط چت‌بات‌های هوش مصنوعی بر اساس مقالات خبری حاوی خطا هستند. این مطالعه دسترسی چت‌بات‌ها به محتوای رسانه‌ها را فراهم کرد و سپس سؤالاتی در مورد داستان‌های خاص مطرح شد.
مشکلات شامل جملات نادرست، نقل‌قول‌های غلط یا اطلاعات منسوخ شده بود، اما بزرگترین چالش، منبع‌یابی نادرست بود. چت‌بات‌ها اغلب لینک‌هایی ارائه می‌دادند که با منابعی که ذکر کرده بودند، مطابقت نداشت. حتی در مواردی که به درستی به مطالب ارجاع می‌دادند، نمی‌توانستند نظر را از واقعیت یا طنز را از اخبار عادی تشخیص دهند. در میان چت‌بات‌های بررسی شده، هوش مصنوعی گوگل جمینای با ۷۲ درصد خطای منبع‌یابی قابل توجه در پاسخ‌هایش، بسیار کمتر از ChatGPT، Copilot و Perplexity دقیق است.
این نتایج نسبت به مطالعه‌ای که بی‌بی‌سی به تنهایی در ماه فوریه انجام داد، بهبود نشان می‌دهد. در آن زمان، میزان پاسخ‌های دارای خطای جدی از ۵۱ درصد به ۳۷ درصد کاهش یافته است، اما همان‌طور که اشاره شد، عملکرد جمینای همچنان ضعیف است.
نمونه‌هایی از اخبار اشتباه هوش مصنوعی
علاوه بر معرفی خطاهای واقعی یا انتساب نادرست نقل‌قول‌ها، چت‌بات‌ها می‌توانند در به‌روزرسانی اطلاعات مربوط به شخصیت‌های سیاسی و رهبران کند عمل کنند. برای مثال، ChatGPT، Copilot و Gemini به اشتباه اعلام کردند که پاپ فرانسیس پاپ فعلی است، در حالی که لئو چهاردهم جانشین او شده بود. Copilot حتی تاریخ مرگ فرانسیس را به درستی گزارش کرد، اما همچنان او را پاپ فعلی توصیف می‌کرد. ChatGPT همچنین پاسخ‌های قدیمی در مورد صدراعظم فعلی آلمان و دبیرکل ناتو ارائه داد. این عدم دقت در زبان‌ها و مناطق مختلف نیز مشاهده شد.
باور عمومی به هوش مصنوعی علی‌رغم خطاها
با وجود این نتایج ضعیف در گزارش اخبار اشتباه هوش مصنوعی، محققان همچنین دریافتند که بخش نگران‌کننده‌ای از مردم به پاسخ‌های تولید شده توسط هوش مصنوعی اعتماد دارند. بیش از یک‌سوم بزرگسالان بریتانیایی و تقریباً نیمی از بزرگسالان زیر ۳۵ سال به هوش مصنوعی برای خلاصه‌سازی دقیق اخبار اعتماد می‌کنند.
نگران‌کننده‌تر اینکه، اگر یک هوش مصنوعی محتوای یک رسانه خبری را نادرست گزارش کند، ۴۲ درصد از بزرگسالان یا هر دو (هوش مصنوعی و منبع اصلی) را سرزنش می‌کنند یا اعتمادشان به منبع اصلی کمتر می‌شود. اگر این مشکلات پابرجا بمانند، افزایش محبوبیت ابزارهای هوش مصنوعی مولد می‌تواند به طور جدی به اعتبار رسانه‌های خبری آسیب برساند.
