داستان دیپ فیک در چین به پایان رسید

دولت چین روز گذشته قوانین سخت‌گیرانه جدیدی را به‌منظور محدودسازی و افزایش نظارت بر انتشار ویدیوهای دیپ فیک تنظیم کرد.

براساس مقررات جدید اداره فضای سایبری چین، خلق محتوا با استفاده از هوش مصنوعی که بدون برچسب مشخص مانند واترمارک باشد، ممنوع می‌شود. قوانین جدید در قالب بخشی از واکنش در حال تحول چین به روند مولد هوش مصنوعی از جمله ویدیوهای دیپ فیک است که از سال 2022 دنیای فناوری را فراگرفته است. این مقررات از 10 ژانویه 2023 (20 دی) اجرایی خواهند شد. در چین، اداره فضای مجازی بر مقررات و سانسور اینترنت نظارت دارد و طبق مقررات جدید، دولت آنچه را که فناوری «سنتز عمیق» می‌نامد را زیر نظر خواهد داشت.

بیانیه اداره فضای مجازی چین در ارتباط با قوانین جدید دیپ فیک

در پستی که اخیرا در وب‌سایت دفتر کمیسیون مرکزی امور فضای مجازی چین منتشر شده، دولت دلایل خود را برای صدور این مقررات بیان کرده است. در بخشی از این بیانیه، به موج اخیر محتواهای ساخته شده توسط دیپ فیک در قالب متن، تصویر، صدا و ویدیو اشاره دارد که چین آن‌را برای رشد اقتصادی آینده مهم ارزیابی می‌کند:

در سال‌های اخیر، فناوری هوش مصنوعی به‌سرعت توسعه یافته است. ضمن پاسخ‌گویی به نیازهای کاربران و بهبود تجربه کاربری، برخی افراد فرصت‌طلب نیز از آن برای تولید، کپی و انتشار غیرقانونی اطلاعات، افترا، تحقیر، جعل هویت و کلاهبرداری استفاده می‌کنند. این ناهنجاری‌ها، نظم ارتباطات و اجتماع را تحت تاثیر قرار می‌دهد، به حقوق و منافع مشروع مردم لطمه زده و امنیت و ثبات اجتماعی را خدشه‌دار می‌کند.

در بخش دیگر این متن اشاره شده که معرفی «مقررات»، یک الزام برای پیش‌گیری و رفع خطرات امنیتی است و هم‌چنین برای ارتقای توسعه سالم خدمات هوش مصنوعی عمیق مانند دیپ فیک و ارتقای سطح قابلیت‌های نظارتی، ضروری است.

طبق قوانین جدید چین، تولیدات هوش مصنوعی از جمله دیپ فیک، مشمول ارزیابی امنیتی از سوی دولت خواهند شد. بدین ترتیب، هر محصول قبل از عرضه، باید همسو با مقررات باشد. هم‌چنین، دولت چین به‌طور ویژه بر الزام وجود «برچسب‌های آشکار» که محتوای تولید شده توسط هوش مصنوعی را طبقه‌بندی می‌کنند، تاکید دارد.

براین اساس، ارائه‌دهندگان خدمات هوش مصنوعی، باید علائمی را اضافه کنند که از محتوای اطلاعاتی تولیدی یا ویرایش شده در دیگر خدمات و مقاصد دیگر استفاده نشود. خدماتی که کارکردهایی مانند گفتگوی هوشمند، صدای ترکیب شده انسان، تولید چهره انسان و صحنه‌های غیرواقع‌بینانه را مانند نمونه های دیپ فیک ارائه می‌دهند، مشمول این مقررات هستند. این دسته از تولیدات، باید به‌طور برجسته علامت‌گذاری شوند تا از سردرگمی عمومی مبنی بر ساختگی یا واقعی بودن آن جلوگیری شود.

هم‌چنین هیچ سازمان یا فردی اجازه نخواهد داشت علائم مربوطه را حذف، دستکاری یا پنهان کند. علاوه بر این، شرکت‌هایی که در این حوزه فعالیت دارند، باید سوابق خود را مطابق قانون حفظ کنند و افرادی که از فناوری‌های هوش مصنوعی استفاده می‌کنند نیز باید نام واقعی خود را در حساب‌های کاربری وارد کنند تا فعالیت آنها قابل ردیابی باشند.

هم‌اکنون چین نیز مانند ایالات متحده، شاهد رونق برنامه‌های کاربردی مبتنی بر هوش مصنوعی است. هم‌چنین برخی از کارشناسان فناوری اخیرا دریافتند که این دو کشور با موج رو به رشدی از هوش مصنوعی مولد روبرو هستند که می‌تواند ساختارهای قدرت را با چالش‌هایی همراه کند و امکان تقلب و دستکاری واقعیت را افزایش دهد. تاکنون، دو کشور با واکنش‌های سخت‌گیرانه‌ای فناوری مذکور را تحت نظارت قرار داده‌اند. پیش‌تر در سال 2019، چین اولین قوانین خود در حوزه هوش مصنوعی را اجرایی کرد که به موجب آن، انتشار ویدیوهای فاقد برچسب دیپ فیک که حاوی اخبار جعلی بودند، غیرقانونی شناخته شدند.