مردم به ربات های غیراخلاقی تلگرام هجوم آورده‌اند!

هجوم مردم به ربات های غیراخلاقی تلگرام نشان می‌دهد که این پیام رسان محبوب مکان امنی برای فعالیت‌های مجرمانه است.

یکی از چالش‌های بزرگی که در اپلیکیشن‌های پیام رسان سراسر دنیا وجود دارد، هجوم مردم به ربات‌های غیراخلاقی است. امروزه ربات‌هایی ایجاد شده‌اند که مردم به کمک آن‌ها می‌توانند از روس عکس‌های دیگران، لباس‌ها را حذف کرده و تصاویر دیپ فیک و جعلی درست کنند.

در اوایل سال 2020 میلادی، یکی از متخصصان حوزه دیپ فیک یا جعل عمیق به نام هنری آژدر، اولین رباتی را که به منظور لخت کردن عکس‌های زنان از آن استفاده می‌شد، پیدا کرد. به گفته آژدر در آن زمان از این ربات برای برای تولید بیش از 100 هزار قطعه عکس واضح – از جمله عکس‌های کودکان – استفاده شده بود و توسعه چنین چیزی لحظه سرنوشت‌ساز و نقطه عطف مهمی برای سایر تصاویر ساخته شده با دیپ فیک بود. از آن سال به بعد خلق تصاویر جعلی به کمک دیپ فیک، رایج‌تر و آسان‌تر و میزان آسیب‌رسانی آن‌ها بیشتر شده است.

هجوم مردم به ربات های غیراخلاقی تلگرام

هم اکنون بررسی انجمن‌های تلگرام که با محتوای بدون رضایت و توافق سروکار دارند، 50 ربات را شناسایی کرده که ادعا می‌کنند تنها با چند کلیک ساده، عکس‌ها یا ویدیوهای باکیفیت و واضحی از افراد ایجاد خواهند کرد. قابلیت‌های این دسته از ربات‌ها متفاوت است؛ برای مثال بعضی از آن‌ها از داخل تصاویر، لباس افراد را حذف کرده و بعضی دیگر تصاویری خلق می‌کنند که افراد را در حال انجام اعمال جنسی خاصی نشان می‌دهد.

بررسی‌های بیشتر از مجموع این 50 ربات، نشان می‌دهد که بیش از 4 میلیون کاربر ماهانه دارند. دو تا از ربات‌ها به تنهایی بیش از 800 هزار عضو داشته و 14 ربات دیگر هم هر یک بیش از 100 هزار عضو داشته‌اند. یافته‌های اخیر نشان دهنده این موضوع است که ابزارهای دیپ فیک تا چه حد گسترده شده و در نتیجه نقش مهم و موثر تلگرام را به عنوان یکی از برجسته‌ترین مکان‌های انجام چنین اعمالی به تصویر می‌کشد. آژدر در خصوص ربات‌های تلگرامی می‌گوید:

ما در مورد افزایش چشمگیر و رو به رشد افرادی صحبت می‌کنیم که به طور فعالانه از چنین محتواهایی استفاده می‌کنند. واقعا نگران کننده است که ابزارهای جعل عمیق زندگی بسیاری از مردم را نابود می‌کنند و باعث خلق سناریوهای کابوس‌وار برای دختران جوان و زنان می‌شوند، نکته جالب اینکه همه اینها به آسانی در یکی از محبوبترین پیام رسان‌های دنیا در دسترس افراد است.

سازوکار ربات های دیپ فیک تلگرامی چگونه است؟

محتوای دیپ فیک بدون رضایت که اغلب تحت عنوان «سوء استفاده از تصاویر صمیمانه بدون رضایت» شناخته می‌شود، از اواخر سال 2017 و همزمان با پیشرفت‌های هوش مصنوعی مولد رونق گرفت. در سرتاسر اینترنت، مجموعه‌ای از وب سایت‌های برهنه کردن در کنار ابزارهای پیچیده و ربات‌های تلگرامی قرار دارند که روزانه هزاران زن و دختر را هدف قرار می‌دهند. در یک نظرسنجی که اخیرا انجام شده، 40 درصد از دانش آموزان آمریکایی طی یک سال گذشته از وجود چنین دیپ فیک‌هایی آگاه بوده‌اند.

ربات‌های تلگرامی فوق توسط 25 کانال پشتیبانی دیگر حمایت می‌شوند و در آن‌ها کاربران می‌توانند با عضویت و پرداخت پول، از آخرین آپدیت‌های خبری مطلع شوند. این کانال‌ها روی هم رفته حدود 3 میلیون عضو دارند و برای دسترسی به ویژگی‌های جدیدی که در آن‌ها ارائه می‌شود، باید ارز دیجیتال خاصی را بخرید. همچنین لینک‌هایی در کانال‌های پشتیبان وجود دارد که در صورت حذف کانال اصلی توسط تلگرام، می‌توان به کمک آن‌ها در کانال‌های زاپاس عضو شد.

اپلیکیشن تلگرام طی سال‌های اخیر و همزمان با رشد فزاینده کانال‌های انتشار تصاویر دیپ فیک، اقدام به حذف آن‌ها کرده و در همین ماه‌های اخیر حدود 75 ربات و کانال را شناسایی و حذف کرد. گستردگی کانال‌ها و ربات‌های جعل عمیق یا دیپ فیک به حدی است که چندین صاحب کانال پس از حذف ربات یا کانال خود، ادعا کردند که به زودی یک لینک جدید می‌سازند!

ربات‌های تلگرام برنامه‌های کوچکی هستند که در داخل این پیام رسان اجرا می‌شوند. آن‌ها از طریق کانال‌هایی معرفی می‌شوند که قادر به ارسال پیام برای تعداد بی‌شماری کاربر هستند. بعضی از این گروه‌ها و کانال‌ها تا سقف 200 هزار نفر را پذیرش کرده و زمینه برای تعامل آن‌ها با یکدیگر را فراهم می‌کنند. در واقع توسعه دهندگان چنین ربات‌هایی را راه می‌اندازند تا کاربران از طریق آن‌ها امور مختلفی را مثل ترجمه پیام‌ها یا برگزاری جلسات زوم و… به نتیجه برسانند. دیپ فیک یکی از کاربردهای همین ربات‌ها است.

به علت ماهیت مضر و آسیب رسان ابزارهای مرتبط با دیپ فیک، به ربات‌های تلگرامی این حوزه یا کانال‌های مرتبط اشاره نمی‌کنیم. آمارهای دقیقی از حجم تصاویری که توسط ربات‌های دیپ فیک ساخته شده در دست نیستريال اما می‌دانیم که میلیون‌ها کاربر در چنین بستری حضور دارند. بعضی از کاربران چنین ربات‌هایی فقط تماشاگر بوده، در حالی که این احتمال وجود دارد که برخی از کاربران اقدام به خلق صدها یا هزاران عکس کرده باشند.

ربات‌های خانمان سوز دیپ فیک!

بسیاری از ربات‌های جعل عمیق از روی نامی که برایشان انتخاب شده، قابل شناسایی هستند. اغلب آن‌ها اشاره به برهنه کردن یا حذف لباس دختران و زنان از روی عکس‌ها می‌کنند. توسعه دهندگان یکی از همین ربات‌ها می‌گوید:

روی صورت یا لباس عکسی که به من می‌دهی، می‌توانم هر کاری که بخواهی انجام دهم. شوک ناشی از هوش مصنوعی را تجربه کنید!

تقریبا همه ربات‌ها از کاربران درخواست می‌کنند که برای استفاده از خدمات دیپ فیک، ارزهای دیجیتال خاصی را خریداری کنند. اکوسیستم دیپ فیک طی سال‌های اخیر به طرز عجیبی رشد کرده و تبدیل به یک منبع درآمد فوق العاده پرسود برای کسانی که وب سایت، اپلیکیشن یا ربات ایجاد می‌کنند، شده است.

اولین ربات‌های تلگرامی که به منظور خلق تصاویر با دیپ فیک راه اندازی شدند، ابتدایی و ساده بودند در حالی که فناوری‌های نوین باعث شده که هوش مصنوعی تصاویر واقعی و با کیفیت‌تری تولید کنند.

برای مثال یکی از همین ربات‌ها با بیش از 300 هزار کاربر ماهانه فعال، به هویت خود اشاره نمی‌کند و وقتی وارد آن می‌شوید، 40 گزینه مختلف برای تصاویر جنسی نمایش می‌دهد. البته توسعه دهندگان ربات‌ها می‌توانند از کاربران بخواهند که شرایط خدمات را بپذیرند، اما به نظر می‌رسد اجرای چنین قوانینی مضحک بوده و اصلا اجرا نمی‌شود. در کل ربات‌های مختلف دیگری وجود دارند که ادعاهای مشابه مطرح می‌کنند.

به گفته یکی از صاحب نظران این حوزه، تصاویر جعلی می‌توانند آسیب‌های زیادی به قربانیان وارد کنند و با ایجاد آسیب‌های روانی و احساس حقارت، ترس، خجالت و شرم، به سلامت و رفاه جامعه آسیب بزنند. قانون گذاران طی چند سال اخیر اقدام به وضع قوانین مدونی برای رسیدگی به دیپ فیک‌های غیرقانونی کرده و شرکت‌های حوزه فناوری هم سیاست‌های سختگیرانه‌ای تدارک دیده‌اند.

علیرغم تلاش کشورها و کمپانی‌های فناوری، برنامه‌های دیپ فیک در فروشگاه‌های معتبری مثل اپل استور و گوگل پلی یافت می‌شوند. از آخرین رسوایی‌های جعل عمیق می‌توان به تصاویر مستهجن تیلور سوئیفت، خواننده معروف اشاره کرد که در شبکه ایکس به نمایش گذاشته شد.

رویکرد تلگرام برای حذف محتوای مضر مدت هاست که مورد انتقاد جامعه مدنی قرار گرفته، زیرا این اپلیکیشن پیام رسان سال هاست که میزبان کلاهبرداران، گروه‌های افراطی سیاسی و تروریسم بوده است. از زمانی که پاول دورف در فرانسه به اتهام جرائم احتمالی دستگیر و راهی زندان شد، تلگرام شروع به اعمال برخی تغییرات در نحوه ارائه خدمات خود کرد و داده‌های بسیاری به سازمان‌های قضائی داد.

تلگرام خانه امن سوداگران دیپ فیک

به گفته آژدر که چهار سال پیش موفق به کشف اولین ربات‌های دیپ فیک تلگرام شد، این پیام رسان به طرز عجیبی تبدیل به مکانی امن برای سوداگران دیپ فیک شده است. به اعتقاد او تلگرام به کاربران خود قابلیت جستجو می‌دهد و آن‌ها می‌توانند از این طریق کانال‌ها، گروه‌ها و ربات‌های مختلف را پیدا کنند.

در اواخر سپتامبر، چندین کانال مرتبط با جعل عمیق، شروع به ارسال پست‌هایی با این مضمون کردند که تلگرام ربات‌های آن‌ها را حذف کرده است. مشخص نیست که به چه علت ربات‌ها حذف شده‌اند! در 30 سپتامبر کانالی با بیش از 295 هزار عضو، خبری مبنی بر حذف ربات خود از تلگرام پست کرد، اما لینک جدیدی برای کاربران ارسال کرد تا ادامه مسیر را در آنجا طی کنند.

به گفته یکی از بنیان گذاران و مدیران NotYourPorn، یکی از مسائل نگران کننده راجع به تلگرام، ردیابی و نظارت ویژه روی محتوایی است که کاربران منتشر می‌کنند و می‌تواند منجر به سوء استفاده جنسی از تصاویر و ویدیوهای آن‌ها شود. نظر شما در این باره چیست؟ آیا سیاست‌های تلگرام تغییر کرده یا خیر؟