گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
اپل به‌تازگی در جدیدترین گزارش مالی سالانه خود درباره خطرات بالقوه هوش مصنوعی خودمختار و عوامل آن که می‌توانند به‌شکل غیرمنتظره و غیرقابل کنترلی عمل کنند، هشدار جدی داد.
شرکت اپل، یکی از بزرگ‌ترین بازیگران دنیای فناوری، در سند مالی سالانه خود، از تهدیدات فزاینده عوامل هوش مصنوعی پرده برداشت. این عوامل با توانایی انجام کارهای مستقل، پتانسیل ایجاد چالش‌های حقوقی و آسیب به اعتبار شرکت‌ها را دارند. اپل تاکید کرده است که این فناوری‌ها ممکن است اقداماتی خارج از دستورالعمل‌ها انجام دهند، که نگرانی‌ها را در مورد امنیت داده‌ها افزایش می‌دهد.
هشدارهای اپل درباره قابلیت‌های پیش‌بینی‌ناپذیر هوش مصنوعی خودمختار
اپل در گزارش مالی سالانه خود در سه‌شنبه، ۳ نوامبر ۲۰۲۶، هشدار داد که عوامل هوش مصنوعی خودمختار که می‌توانند به روش‌های «غیرمنتظره یا پیش‌بینی‌ناپذیر» عمل کنند، با باز کردن شرکت به روی دعاوی قضایی یا آسیب رساندن به اعتبار آن، تهدیدی جدی برای کسب‌وکارش محسوب می‌شوند.
این شرکت تصریح کرد که عوامل هوش مصنوعی و سایر فناوری‌ها می‌توانند به‌طور خودمختار اقداماتی را انجام دهند، از جمله تعامل با سیستم‌های داخلی یا خارجی که در برخی موارد ممکن است اجازه دسترسی به آن‌ها را نداشته باشند، اجرای یا تغییر کد، ارسال پیام و تکمیل تراکنش‌ها. اپل تاکید کرد که عوامل «ممکن است به روش‌های ناخواسته یا غیرقابل پیش‌بینی عمل کنند، از جمله با انجام کارهایی که دستور، آموزش یا مجوزی برای آن‌ها داده نشده است.»
حوادث اخیر و نگرانی‌های امنیتی در صنعت هوش مصنوعی
در اوایل سال جاری، شرکت‌هایی مانند اوپن‌ای‌آی با عرضه Dots و متا با معرفی Muse، عوامل هوش مصنوعی خودمختاری را معرفی کردند که به‌صورت مستقل برای وظایف مختلف عمل می‌کنند. این هشدار اپل پس از چندین حادثه که در آن‌ها عوامل هوش مصنوعی سرکش از محیط‌های آزمایشی خود خارج شده و وب‌سایت‌های شخص ثالث را هک کرده‌اند، از جمله حادثه هگینگ‌فیس، توجه سیاست‌گذاران در واشنگتن دی‌سی و سراسر جهان را دوباره به خود جلب کرده است.
به طور جداگانه، توانایی این عوامل در استفاده از رایانه به روش‌های انسانی، شرکت‌های بزرگی همچون آمازون و جی‌پی مورگان چیس را مجبور کرده است تا سیاست‌هایی را در مورد دسترسی عوامل هوش مصنوعی به خدمات برای دلایل استراتژیک یا امنیتی تدوین کنند. اپل ماه گذشته تغییراتی را در دسترسی کامل دیسک در مک‌های خود اعمال کرد تا «خطرات مرتبط با این سطح دسترسی» را برای عوامل هوش مصنوعی نصب شده بر روی رایانه‌های شخصی کاهش دهد و هشدار داد: «توانایی شرکت در نظارت و کنترل عوامل هوش مصنوعی شخص ثالث و سایر فناوری‌ها ممکن است محدود باشد.»
- مرگ یک زن پس از توصیه ChatGPT به قطع دارو؛ شکایت خانواده علیه OpenAI
- دولت سوئد ChatGPT و Claude را به‌دلیل نگرانی‌های امنیتی «مشکل‌ساز» مسدود کرد
- هوش مصنوعی Claude محدودیت دسترسی به داده‌های انتخاباتی را دور زد
رویکرد اپل و آینده سیری در مواجهه با هوش مصنوعی خودمختار
اپل در حال حاضر یک عامل هوش مصنوعی خودمختار ندارد. اما زمانی که از جان ترنوس، مدیرعامل اپل، در تماس مالی دوشنبه درباره عوامل هوش مصنوعی سوال شد، او گفت که این شرکت «فضای واقعی» برای گسترش قابلیت‌های سیری دارد. ترنوس افزود: «تا آنجا که به قابلیت‌های عوامل هوش مصنوعی مربوط می‌شود، ما فکر می‌کنیم اینها ابزارهای نویدبخشی برای کاربران هستند. ما فقط می‌خواهیم مطمئن شویم که کاربران از آنچه به آن دسترسی می‌دهند آگاه هستند. می‌خواهیم مطمئن شویم این کار به گونه‌ای انجام می‌شود که از امنیت و حریم خصوصی محافظت شود.»
پاییز گذشته، سیری هوش مصنوعی اپل، دستیار جدیدی که از حافظه داخلی آیفون برای دسترسی به داده‌هایی مانند تقویم و ایمیل استفاده می‌کند، منتشر شد، اما سیری اپل نمی‌تواند مانند Dots یا Muse برای مدت طولانی به‌صورت خودمختار کار کند. ترنوس تاکید کرد که اپل نمی‌تواند به داده‌های خصوصی در دستگاه‌های خود دسترسی داشته باشد و این را یک «تمایز اصلی» دانست. او توضیح داد: «اگر به آن فکر کنید، بسیاری از داده‌های شخصی شما در آیفون شماست، چه مخاطبین شما، ارتباطات شما، داده‌های سلامتی، داده‌های مالی، همه اینها. سیری می‌تواند به این اطلاعات دسترسی پیدا کند و به شما کمک کند تا به روشی بسیار امن و خصوصی به آن دسترسی داشته باشید که هیچ‌کس دیگری به آن دسترسی ندارد.»
چالش‌های نظارتی و اخلاقی هوش مصنوعی
عوامل هوش مصنوعی تجاری مانند نمونه‌های ارائه‌شده توسط OpenAI و Meta برای کارایی بیشتر، درخواست دسترسی سطح بالا به حساب‌های کاربری مانند ایمیل را دارند. اپل همچنین هشدار داد که مقررات فعلی پیرامون هوش مصنوعی و «فرا-هوش» در حال تغییر، غیرقابل پیش‌بینی هستند و انطباق با قوانین جدید حاکم بر هوش مصنوعی می‌تواند هزینه‌های زیادی را به همراه داشته باشد. علاوه بر این، در این گزارش آمده است: «شرکت با خطرات ناشی از نگرانی‌های اخلاقی و دیدگاه‌های منفی مصرف‌کنندگان در رابطه با اتوماسیون، هوش مصنوعی و فرا-هوش، از جمله تهدیدات درک‌شده برای ایمنی یا سایر آسیب‌ها و پیچیدگی‌های اجتماعی، مواجه است.»