تحقیقی جدید نشان میدهد بزرگترین مدلهای زبان هوش مصنوعی در فهم آداب اجتماعی پیچیده ایرانی یعنی تعارف، شکست خوردهاند. این ضعف فرهنگی چه پیامدهایی دارد؟
جدیدترین پژوهشها نشان میدهد هوش مصنوعی و تعارف ایرانی با یکدیگر کنار نمیآیند و بزرگترین مدلهای زبانی در درک این آداب اجتماعی پیچیده شکست خوردهاند. اگر یک راننده تاکسی در ایران از گرفتن کرایه امتناع کند، پذیرفتن این تعارف یک اشتباه بزرگ فرهنگی است. شما باید چند بار برای پرداخت اصرار کنید. این آداب اجتماعی که تعارف نام دارد، برای هوش مصنوعی غیرقابل درک است.
شکست هوش مصنوعی و تعارف ایرانی در یک پژوهش جدید
پژوهشی با عنوان ما مؤدبانه اصرار میکنیم: LLM شما باید هنر تعارف ایرانی را بیاموزد منتشر شده است. این تحقیق نشان میدهد چتباتهای هوش مصنوعی شرکتهای OpenAI و متا در موقعیتهای تعارف فقط بین ۳۴ تا ۴۲ درصد مواقع پاسخ درست میده دهند. این در حالی است که فارسیزبانان بومی در ۸۲ درصد موارد موفق عمل میکنند. این شکاف عملکرد در تمام مدلهای بزرگ مانند GPT-4o و Llama 3 دیده میشود.
- چتجیپیتی در خلاصهنویسی مقالات علمی، دقت را قربانی سادگی میکند
- کاربران از ChatGPT برای چه کاری استفاده میکنند؟ OpenAI با بررسی 1.5 میلیون چت پاسخ را یافت
- سومین شکایت حقوقی علیه هوش مصنوعی: آیا چتبات Character AI عامل خودکشی نوجوانان است؟
محققان برای اندازهگیری این توانایی، اولین معیار با نام “TAAROFBENCH” را معرفی کردهاند. یافتهها نشان میدهد مدلهای هوش مصنوعی به طور پیشفرض به سمت صراحت به سبک غربی تمایل دارند. آنها کاملا نشانههای فرهنگی را که برای میلیونها فارسیزبان در سراسر جهان اهمیت دارد نادیده میگیرند. این موضوع اهمیت درک فرهنگ ایرانی در توسعه هوش مصنوعی را نشان میدهد.
پژوهشگران هشدار میدهند که اشتباهات فرهنگی در محیطهای حساس میتواند به مذاکرات آسیب بزند. این مسئله همچنین روابط را تخریب کرده و کلیشههای نادرست را تقویت میکند. تعارف بخشی اساسی از آداب معاشرت در ایران است که در آن معنای کلمات با نیت گوینده تفاوت دارد.