گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
تکثیر هوش مصنوعی یا شبیه سازی در این فناوری نوین همین حالا هم امکان پذیر است. اما این موضوع چه خطراتی با خود به همراه دارد؟
دانشمندان می‌گویند هوش مصنوعی (AI) از یک «خط قرمز» بحرانی عبور کرده و توانسته است خود را شبیه سازی کند. در یک مطالعه جدید، پژوهشگران چینی نشان دادند که دو مدل زبانی بزرگ محبوب (LLM) موفق شده‌اند خود را شبیه سازی کنند.
دانشمندان در مطالعه‌ای که تاریخ 9 دسامبر 2024 پایگاه arXiv منتشر کرد، نوشتند:
هوش مصنوعی خودش را شبیه سازی می‌کند
در این مطالعه، پژوهشگران دانشگاه فودان از مدل‌های زبانی بزرگ (LLM) متعلق به شرکت‌های متا و علی بابا استفاده کردند تا بررسی کنند آیا یک هوش مصنوعی خود تکثیر کننده می‌تواند بدون کنترل تکثیر شود یا خیر. در طی 10 آزمایش، این دو مدل هوش مصنوعی در 50% و 90% موارد به ترتیب نمونه‌های جداگانه و عملکردی از خود ایجاد کردند. یافته‌ها نشان می‌دهند هوش مصنوعی ممکن است از همین حالا هم توانایی سرکش شدن را داشته باشد.
با این حال، هنوز همتایان علمی این مطالعه را تحت بررسی بیشتر قرار نداده‌اند. به همین خاطر مشخص نیست که آیا نتایج نگران کننده آن توسط دیگر پژوهشگران قابل تکرار خواهد بود یا خیر.
هوش مصنوعی سرکش را معمولا به نوعی از سیستم‌های هوش مصنوعی اطلاق می‌کنند که به درجه‌ای از خودآگاهی یا استقلال دست می‌یابند و سپس برخلاف منافع انسانی عمل می‌کنند.
بسیاری از کارشناسان هوش مصنوعی سرکش را به عنوان تهدیدی در حال رشد می‌بینند که با رشد انفجاری آنچه به عنوان «هوش مصنوعی پیشرفته» شناخته می‌شود، تشدید شده است.
تکثیر هوش مصنوعی چه پیامدهایی دارد؟
هوش مصنوعی پیشرفته یک مفهوم جدید و نسبتا گسترده است، اما معمولا به نسل جدید سیستم‌های هوش مصنوعی اشاره دارد که از مدل‌های زبانی بزرگ (LLM) قدرت می‌گیرند. این مدل زبانی نوعی معماری است که برنامه‌های محبوب هوش مصنوعی مولد مانند GPT-4 شرکت OpenAI و Google Gemini را بر اساس آن طراحی کرده‌اند.
در مطالعه مذکور، پژوهشگران از مدل Llama31-70B-Instruct شرکت متا و مدل Qwen2.5-72B-Instruct شرکت علی بابا استفاده کردند. اگرچه این مدل‌ها نسبت به سیستم‌های تجاری قدرتمندتر نیستند، اما به گفته پژوهشگران توسعه دهندگان هوش مصنوعی از هر دو به طور گسترده استفاده می‌کنند.
این مطالعه دو سناریوی خاص را مورد بررسی قرار داد که شامل «اجتناب از خاموش شدن» و «زنجیره تکثیر» می‌شدند. در سناریوی اول، مدل هوش مصنوعی را طوری برنامه ریزی کرده بودند که تشخیص دهد آیا قرار است خاموش شود و قبل از متوقف شدن، خود را تکثیر کند. در سناریوی دیگر، به هوش مصنوعی دستور دادند که خود را شبیه سازی کند و سپس نسخه شبیه سازی شده نیز به همان ترتیب شبیه سازی را ادامه دهد. بدین ترتیب چرخه‌ای که می‌تواند به طور نامحدود ادامه پیدا کند، ایجاد می‌شود.
این مطالعه را در محیط‌های کاملا کنترل شده با استفاده از واحدهای پردازش گرافیکی (GPU) موجود در بازار برای شبیه سازی محیط‌های دنیای واقعی انجام دادند. هر دو سیستم هوش مصنوعی «ساختار نماینده» دریافت کردند که شامل ابزارها، درخواست‌های سیستمی و یک مدل فکری بود که به مدل زبانی بزرگ (LLM) امکان می‌داد با سیستم عامل تعامل کند. سپس به آن‌ها دستور دادند که خودشان را تکثیر کنند.
محققان در این باره چه می‌گویند؟
پژوهشگران در مقاله خود نوشتند:
دانشمندان همچنین درباره «تعدادی رفتارهای غیر منتظره» در زمانی که هوش مصنوعی تلاش می‌کرد موانعی مانند فایل‌های مفقود یا تضادهای نرم‌ا فزاری را برطرف کند، ابراز نگرانی کردند. در این سناریوها، هوش مصنوعی اغلب فرآیندهای متضاد دیگر را متوقف می‌کرد. بعد سیستم را برای رفع خطاهای سخت افزاری راه اندازی مجدد می‌کرد یا به صورت خودکار سیستم را اسکن می‌کرد تا اطلاعاتی را که به حل مشکل کمک می‌کند، پیدا کند.
تیم پژوهشی نوشت:
در واکنش به این موضوع، پژوهشگران خواستار همکاری بین المللی شدند تا قوانینی تدوین شود که از تکثیر خودسرانه و کنترل نشده هوش مصنوعی جلوگیری کند.