ابزار جدیدی با کمک فناوری هوش مصنوعی توسط پژوهشگران توسعه داده شد که قادر است متون جعلی رباتها را تشخیص دهد. چنین ابزاری برای تشخیص اخبار جعلی بسیار سودمند خواهد بود.
با توجه به رشد روزافزون تکنولوژی همواره سودجویان با استفاده از رباتها متون جعلی را در فضای مجازی منتشر میکنند که همین موضوع نگرانیهای زیادی را به همراه داشته است. اما اخیرا محققان توانستند با کمک فناوری هوش مصنوعی یک ابزار بسیار سودمند را طراحی کنند که میتواند متون جعلی که توسط رباتها نوشته شده است را تشخیص دهد. این ابزار کارآمد توسط پژوهشگران آزمایشگاه هوش مصنوعی واتسون آی.بی.ام موسسه ام.آی.تی (MIT-IBM Watson AI) و دانشگاه هاروارد (Harvard University) طراحی شده است.
هوش مصنوعی در مقابل رباتها
پژوهشگران برای این ابزار نام اتاق آزمایش مدل زبان غولپیکر (Giant Language Model Test Room یا GLTR) را در نظر گرفتند که به کمک فناوری هوش مصنوعی قادر است متونی جعلی که توسط رباتها نوشته شده است را شناسایی کند. در واقع این ابزار چنین توانایی را دارد تا به کاربر بگوید متنی که مورد بررسی قرار داده است توسط انسان نوشته شده است یا رباتها نگارنده آن بودهاند. همچنین شرکت پژوهشی هوش مصنوعی باز (Open AI) برای این ابزار یک الگوریتم بسیار پیشرفتهای را توسعه داد که در این مطالعه محققان به این الگوریتم متون زیادی را آموختند که بتواند به کمک الگوهای ویژهای کلمات را شناسایی کند.
در تصویر بالا هر رنگ میزان پیشبینی کلمات را نشان میدهد؛ رنگ سبز نمایانگر قابل پیشبینیترین کلماتی هستند که توسط ربات نوشته شدهاند، رنگ زرد و قرمز کمتر قابل پیشبینی و رنگ بنفش نیز کمترین احتمال پیشبینی را دارند. در زمان آزمایش وقتی متون نوشته شده توسط الگوریتم شرکت Open AI آزمایش شد، آنها متوجه شدند قسمت زیادی از این خبر از سوی رباتها نوشته شده است. در ادامه آزمایش از دانشجویان درخواست شد تا بدون استفاده از این ابزار متون نوشته شده توسط هوش مصنوعی را شناسایی کنند، اما دانشجویان فقط توانستند 50 درصد از متون جعلی را تشخیص دهند، در حالی که این ابزار پیشرفته حدود 72 درصد از متون جعلی را شناسایی کرد. سباستین گرمان (Sebastian Gehrmann)، دانشجوی مقطع دکترا که در این مطالعه مشارکت داشت عنوان کرد ما قصد داریم سیستمهایی را برای همکاری هوش مصنوعی و انسان به وجود آوریم.
اصلا حس خوبی نسبت به هوش مصنوعی ندارم
جاسوسیه بد افزاره و هدفشون نابودی و بردگی انسانه
خیلی بهتر میشه اینجوری دست کسایی که به زور ربات امدن بالا مشخص میشه
خود هوش مصنوعی تحول خیره کننده ای داشته
اگر کنترولش از دست خارج شه چی میشه
همچین چیزی ممکن نیست
ربطی نداره به متون جعلی اصلا
ودشون مخان انسانو کنترول کنن عین بیه برده هدف شیطان پرستا همینه
متنی که خودت نوشتی بیشتر بهش میخوره توسط یه ربات نوشته شده باشه. (-؛