گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
اوپن‌ای‌آی اعلام کرده است برای شناسایی آسان‌تر محتوای تولیدشده توسط هوش مصنوعی، قصد دارد قابلیت واترمارک ChatGPT را در متون تولیدی این چت‌بات در اتحادیه اروپا فعال کند.
این اقدام در راستای پیروی از قانون هوش مصنوعی اتحادیه اروپا صورت می‌گیرد که از ۲ اوت ۲۰۲۶ اجرایی شده و شرکت‌های هوش مصنوعی را ملزم به نشانه گذاری محتواهای تولیدی خود می‌کند. هدف اصلی این قانون، افزایش شفافیت و اعتماد عمومی به محتواهای دیجیتال است.
واترمارک نامرئی ChatGPT چگونه کار می‌کند؟
واترمارک ChatGPT برخلاف یک نماد بصری، به صورت نامرئی عمل می‌کند؛ این قابلیت با تغییرات ظریف در انتخاب کلمات توسط مدل، الگویی پنهان ایجاد می‌کند که برای انسان نامرئی، اما توسط سیستم‌های تشخیص‌دهنده قابل شناسایی است. این واترمارک، به دلیل تعبیه شدن در ساختار کلمات، هنگام کپی و پیست کردن نیز همراه متن باقی می‌ماند و OpenAI اعلام کرده است که هویت کاربر را فاش نمی‌کند و تأثیری بر عملکرد مدل‌های آن ندارد.
محدودیت‌ها و چالش‌های تشخیص محتوای هوش مصنوعی
آزمایش‌های OpenAI نشان می‌دهد که واترمارک ChatGPT می‌تواند با ویرایش متن، از بین برود. برای مثال، جایگزینی تنها ۱۰ درصد کلمات با مترادف‌ها، نرخ تشخیص را به طور قابل توجهی کاهش می‌دهد.
- هوش مصنوعی ChatGPT پر از تبلیغات می‌شود!
- قابلیت پرو مجازی لباس به ChatGPT آمد؛ لباس‌ها را قبل از خرید روی خودتان ببینید
- OpenAI Dots معرفی شد؛ ایجنت‌های جدید ChatGPT که کارها را به جای شما انجام می‌دهند
- شکست زودهنگام یک اتحاد بزرگ؛ پایان ناموفق ادغام سیری اپل و چت‌جی‌پی‌تی
- آموزش ساخت استیکر با ChatGPT برای آیفون و واتساپ
علاوه بر این، شناسایی متون کوتاه، پاسخ‌های ریاضی و محتوای ترجمه‌شده دشوارتر است. OpenAI تأکید کرده که عدم وجود واترمارک لزوماً به معنای انسانی بودن متن نیست، زیرا متن ممکن است بیش از حد ویرایش شده باشد یا از یک هوش مصنوعی دیگر تولید شده باشد.