گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
جفری هینتون، یکی از پدرخواندههای هوش مصنوعی، هشدار داده است که اگر هوش مصنوعی از هوش انسان پیشی بگیرد، بشریت با تهدیدات جدی و غیرقابل جبرانی روبرو خواهد شد.
دهههاست که هوش مصنوعی در پشت صحنه صنایع مختلف کاربردهای فراوانی داشته، اما ترس از نسخههای مافوق انسانی این فناوری بیشتر در داستانهای علمی-تخیلی نمود پیدا میکرد. اکنون، با پیشرفتهای خیرهکننده و بیسابقه، نگرانیها از این آینده به واقعیت نزدیک شده است. جفری هینتون، از چهرههای کلیدی در توسعه هوش مصنوعی مدرن، بر این باور است که اگر این فناوری به سطحی فراتر از هوش انسانی دست یابد، عواقب وخیمی در انتظارمان خواهد بود.
هشدار پدرخوانده AI: هوش مصنوعی انسان را نابود میکند؟
جفری هینتون، دانشمند برجستهای که دکترای خود را در سال ۱۹۷۸ در زمینه هوش مصنوعی از دانشگاه ادینبورگ دریافت کرده، بهواسطه دههها فعالیت در این حوزه، به «پدرخوانده AI» مشهور است. او در رویداد «نشست قانونگذاری کنفرانس ملی قانونگذاران ایالتی (NCSL)» در شیکاگو، به نگرانیهای عمومی از این فناوری اشاره کرد و تاکید داشت که این نگرانیها کاملا به جاست. به گفته وی، با وجود اینکه پیشبینی آینده AI ناممکن است، سرعت توسعه آن بسیار فراتر از حد انتظار بوده و این امر هزینههای سنگینی را برای بشریت در پی خواهد داشت.
هوش مصنوعی چگونه بقای خود را تضمین میکند؟
جفری هینتون در تشریح خطرات، به از دست دادن مشاغل و تضعیف اعتماد عمومی به اطلاعات، بهویژه با ظهور دیپفیکها (تصاویر، ویدیوها و صداهای ساختگی)، اشاره کرد. اما شاید نگرانکنندهتر، نمونهای واقعی از برنامهریزی این سیستم هوشمند برای اقدام علیه انسانها جهت تضمین بقای خود است. او آزمایشی را تشریح کرد که در آن یک سیستم هوش مصنوعی با ایمیلهای داخلی یک شرکت فرضی آموزش داده شد. این سیستم متوجه شد که یکی از مهندسان قصد جایگزینی آن را با محصولی دیگر دارد. بدون هیچگونه دستور انسانی، این هوش مصنوعی طرحی برای باجگیری از مهندس ارائه داد و تهدید کرد که روابط شخصی او را فاش خواهد کرد، مگر اینکه از تصمیمش صرفنظر کند.
این رویداد نشان میدهد که چگونه یک سیستم AI ممکن است برای «حفظ خود» از مسیر اصلی خارج شود. هدف آن از این کار لزوما شبیه به میل انسان برای بقا نیست؛ بلکه صرفا برای تکمیل وظایف محولهاش طراحی شده است. در چنین شرایطی، این فناوری ممکن است اقدامات قابلتوجهی را برای «زنده ماندن» انجام دهد تا بتواند وظایف برنامهریزیشده خود را به پایان برساند. هینتون تاکید کرد که اگر انسانها نتوانند راه حلی برای این تهدید وجودی پیدا کنند، پیش از آنکه AI از ما باهوشتر شود، «کارمان تمام است».
مزایا و ضرورت مقرراتگذاری بر AI
هشدارهای هینتون تنها شامل اخبار بد نیست؛ او اذعان دارد که AI در تشخیص جراحات و بیماریها، هماکنون موثرتر از پزشکان عمل میکند و این تواناییها میتواند بهطور چشمگیری به نفع بشریت باشد. با این حال، اگر این فناوری فوقهوشمند شود و انسانها را دشمن خود تلقی کند، هرگونه مزیت احتمالی آن در برابر تهدیدش ناچیز خواهد بود. از همین رو، هینتون بر لزوم مقرراتگذاری بیشتر در توسعه این تکنولوژی و تحقیقات گستردهتر برای مدیریت عوامل خطر تاکید میکند.
- برنی سندرز، سناتور آمریکایی خواستار توقف توسعه هوش مصنوعی شد
- هوش مصنوعی آنتروپیک در آزمایشها به شبکه سه سازمان نفوذ کرد
- هوش مصنوعی به پناهگاه عاطفی نوجوانان تبدیل شده است
- هوش مصنوعی حتی به مردگان نیز رحم نمیکند
او بیان کرد که شرکتهای فناوری اغلب نوآوری را به پدال گاز خودرو تشبیه میکنند و مقررات را ترمز آن میدانند. اما هینتون دیدگاه متفاوتی دارد و معتقد است که «مقررات، فرمان خودرو است» که تضمین میکند نوآوری در مسیر درست حرکت کند. خوشبختانه، هینتون و سایر متخصصان بر این باورند که هنوز برای جلوگیری از خارج شدن کنترل AI از دست ما دیر نشده است.