گوگل بابت جریحه‌دار کردن احساسات سفیدپوستان، از مردم عذرخواهی کرد

اخیرا وایرال شدن تصاویر مجعول تاریخی که چت‌بات Gemini AI گوگل ساخته بود، خشم سفیدپوستان را برانگیخت؛ حالا این کمپانی ضمن پذیرش اشتباه، از مردم عذرخواهی کرده است.

در روزهای اخیر، ابزار تصویرساز Gemini AI حسابی جنجال به پا کرد و مخالفان، گوگل را متهم به رفتار نژادپرستانه علیه سفیدپوستان و جهت‌گیری سیاسی کردند؛ شرکت گوگل در واکنش، جمنای را تا اطلاع ثانوی غیر فعال و از مردم عذرخواهی کرد.

قضیه از این قرار بود که تصاویر ساخته شده توسط چت‌بات Gemini، هیچ انطباقی با واقعیت‌های تاریخی نداشتند. به‌عنوان مثال، این ابزار تصاویری از وایکینگ‌های سیاه‌پوست یا پاپ سیاه‌پوست و مونث ساخت. حتی پدران بنیان‌گذار آمریکا را رنگین‌پوست نشان داد.

خلق چنین تصاویر مجعولی، این ظن را به‌وجود آورد که گوگل از عمد این ابزار را طوری طراحی کرده که سفیدپوستان را به‌تصویر نکشد؛ ادعایی که گوگل قاطعانه رد می‌کند. پراباکار رغوان، یکی از مدیران ارشد کمپانی دراین‌باره توضیح داده است:

ما چنین قصدی نداشتیم. نیت ما امتناع جمنای از خلق تصاویر هیچ گروه و نژاد خاصی نبود. ما همچنین نمی‌خواستیم که این ابزار، تصاویر غیر دقیق تاریخی بسازد.

او ضمن اقرار به اشتباه صورت گرفته، وعده تلاش برای جبران آن را داد. طبق گفته‌های رغوان، این مشکل رخ داد چون گوگل نمی‌خواست Gemini اشتباهات سایر تصویرسازهای AI را انجام دهد؛ مواردی مانند ساخت تصاویر خشونت‌آمیز و جنسی یا ترسیم چهره افراد واقعی!

او در ادامه توضیحات، به دو نکته اشاره کرده است. یکی اینکه آن‌ها طوری جمنای را ساخته‌اند که در تصاویر تولیدی، تنوع مردمی را نشان دهد. اما به این موضوع بی‌توجهی کردند که در برخی موارد، اتفاقا این تنوع نباید نشان داده شود تا تصاویر خلق شده، با واقعیت‌های تاریخی مغایرت پیدا نکنند.

دوم اینکه به‌مرور و ناخواسته، جمنای بیش از حد محتاط شد و از پاسخ یا قبول برخی درخواست‌های بی‌ضرر، امتناع کرد؛ چون آن‌ها را به‌غلط حساسیت‌برانگیز تعبیر می‌کرد.

به‌زبان ساده‌تر، افراط و تفریط در عملکرد این ابزار هوش مصنوعی، بروز پیدا کرد.

به‌هرحال، گوگل هم‌اکنون قابلیت تصویرسازی جمنای را به‌طور موقت غیر فعال کرده؛ اما از بازگشت این ابزار در آینده‌ای نزدیک خبر داده است. البته رغوان روی این «آینده نزدیک» تردید دارد و بیشتر روی بهینه‌سازی و انجام تست‌های کافی پیش از بازگشت مجدد آن تاکید می‌کند.

او همچنین گفت که نمی‌تواند عدم تولید تصاویر اشتباه توسط Gemini در آینده را تضمین کند؛ ولی قول داد که گوگل به تلاش برای رفع این مشکل ادامه خواهد داد.

رغوان یک توصیه هم به کاربران کرده است: اینکه جمنای را فقط یک ابزار تولید و خلاقیت در نظر بگیرند و زیاد به آن استناد نکنند؛ به‌ویژه وقتی که درباره وقایع جاری یا موضوعات جنجالی، متن و تصویر خلق می‌کند.