گجت نیوز آخرین اخبار تکنولوژی، علم و خودرو 
آگاهی یکی از بزرگترین رازهای علمی است که نه ریشه‌اش و نه حتی سازوکارش به درستی درک نشده است. با این حال، متخصصان هوش مصنوعی، رویای جاه‌طلبانه‌ی هوش مصنوعی آگاه را در سر می‌پرورانند؛ ربات‌هایی که به پیچیده‌ترین خصلت انسانی مجهز خواهند بود و قطعا تاثیر شگرفی بر آینده‌ی بشریت خواهند گذاشت.
عبارت «هوش مصنوعی» که به دانش و مهندسی ساخت ماشین‌های هوشمند، اطلاق می‌شود، نخستین بار در سال 1956 توسط جان مکارتی مشهور استفاده شد. این دانش مهم، تاکنون کمک‌های فراوانی به جامعه‌ی بشری کرده، هرچند که به عقیده‌ی برخی صاحبنظران دنیای تکنولوژی از جمله ایلان ماسک می‌تواند تهدیدی برای آینده بشریت باشد. با این حال، ربات‌های امروزی، هنوز یکی از مهم‌ترین ویژگیهای انسانی، یعنی آگاهی (consciousness) را در خود ندارند. با بهره‌مندی آنها از این ویژگی، یعنی زمانی که بتوانیم ماشینی با سطح پیچیدگی خودمان بسازیم، تهدید آنها جدی‌تر تلقی خواهد شد. کسی نمی‌داند چقدر با تحقق این رویا فاصله داریم، آیا واقعا فیلم او (Her) در سال 2025 به حقیقت خواهد پیوست؟
قبل از وارد شدن به بحث اصلی، اجازه دهید خود مفهوم آگاهی را کمی برایتان روشن کنم. منظور از آگاهی، توانایی شناخت، درک، حس یا تشخیص رویداد‌ها و اشیای جهان خارج است. مثلا دیدن گل‌های رز قرمز، شنیدن موسیقی مورد علاقه یا چشیدن یک قرمه‌سبزی جاافتاده، همگی نمونه‌هایی از تجارب آگاهانه‌ای هستند که در طول روز، بارها و بارها با آنها مواجه می‌شویم. هر یک از این تجارب آگاهانه، دارای کیفیتی مخصوص به خود هستند، یعنی ما هر بار از تجربه‌ی آنها، کیفیت متفاوتی را درک می‌کنیم.
در مقاله‌ای که این بار از مجله‌ی تحلیلی ناتیلوس انتخاب کرده‌ام، داستان ساختن هوش مصنوعی آگاه را از زبان ریوتا کانای (RYOTA KANAI) بازگو خواهم کرد. کانای، متخصص علوم اعصاب و محقق هوش مصنوعی است که به همراه گروهش در ژاپن بر روی ساختن هوش مصنوعی آگاه تمرکز کرده‌اند. از آنجایی که حدس می‌زنم شما هم مثل من، حوصله خواندن یکباره‌ی متون طولانی را ندارید، مقاله‌ی کانای را به سه پرده تقسیم کرده و در پایان نظر خود را در قالب جمع‌بندی بیان کرده‌ام. موضوع این مقاله، در واقع ارتباط دو مقوله‌ی نسبتا مبهم علمی است، بنابراین اگر در جایی از متن احساس کردید خیلی چیزی نمی‌فهمید، نگران نشوید! این نشانه‌ی خوبی است؛ چرا که متون و موضوعات ساده، انسان را کمی تنبل می‌کند و متون دشوارتر ما را ترغیب و شاید حتی وادار به مطالعه‌ی بیشتر کرده و از این رو برای ما مفیدترند. به هر حال به عنوان مترجم سعی کرده‌ام متن را به روان‌ترین زبان ممکن ترجمه کنم. در این داستان جذاب، به عمق اسرارآمیزترین ویژگی انسانی خود، یعنی آگاهی سفر کرده و آن را با چالش‌برانگیزترین دستاورد بشری یعنی هوش مصنوعی پیوند خواهیم زد. پس برای این سفر جذاب که هنوز پایانش معلوم نیست، کمربندها را ببندید!
پرده اول: آگاهی و هوش مصنوعی آگاه
مردم اغلب از من می‌پرسند آیا روزی فراخواهد رسید که هوش مصنوعی آگاه شود؟ من فکر می‌کنم چنین روزی واقعا برای ما شگفت‌انگیز خواهد بود، هر چند شاید آگاه شدن ربات‌ها کمی، گستاخانه به نظر برسد. مکانیسم آگاهی یا همان فرآیندی که باعث می‌شود تجربه‌هایی تازه و مستقیم از جهان اطراف خودمان داشته باشیم، راز بزرگی در علوم اعصاب است و برخی بر این باورند که این راز، هیچگاه افشا نخواهد شد. به نظر می‌رسد توضیح تجارب ذهنی با استفاده از روش‌های عینی علمی، غیرممکن باشد. اما در 25 سال گذشته که آگاهی را به عنوان یک هدف علمی، جدی گرفته‌ایم، پیشرفت‌های زیادی داشته‌ایم. ما فعالیت‌های عصبی مربوط به آگاهی را کشف کرده‌ایم و اکنون به خوبی می‌دانیم چه وظایف رفتاری به آگاهی نیاز دارند، چرا که مغز ما، بسیاری از وظایف شناختی سطح بالا را به صورت ناخودآگاه انجام می‌دهد.
پس می‌توان اینطور نتیجه گرفت که آگاهی، محصول جانبی شناخت ما نیست. همین مسئله در مورد هوش مصنوعی نیز درست است. در بسیاری از داستان‌های علمی-تخیلی، ماشین‌ها یک زندگی ذهنی درونی را به صورت خودکار، توسعه می‌دهند و ما این زندگی را به سادگی ناشی از پیچیدگی آنها می‌دانیم، اما در مورد آگاهی، قضیه فرق می‌کند، امکان محتمل‌تر این است که آگاهی باید صراحتا در طراحی آنها لحاظ شود.
دلایل مهمی وجود دارند که می‌گویند باید چنین فرضی را آزمایش کنیم. مهندسان قرن هجدهم و نوزدهم، منتظر نماندند تا فیزیکدانان قوانین ترمودینامیک کشف کنند، آنها ماشین بخار را قبل از چنین کشفی ساختند! در واقع راه به شکل دیگری باز شد: اختراعات، نظریه را پیش بردند؛ و این همان چیزی است که امروز ما باید انجام دهیم. اغلب بحث‌هایی که در مورد آگاهی انجام می‌شوند، فلسفی بوده و بدون بدست آوردن نتیجه‌ی ملموس و محسوسی، پایان می‌پذیرند. ما، یعنی کسانی که بر روی آگاهی مصنوعی یا همان هوش مصنوعی آگاه کار می‌کنند، تلاش می‌کنیم با آزمون و خطا، چیزهایی درباره‌ی آگاهی یاد بگیریم.
به علاوه، آگاهی باید عملکرد مهمی برای ما داشته باشد، در غیر اینصورت، تکامل دیگری از طریق آن به ما اعطا نمی‌شد. چنین عملکردی احتمالا برای هوش مصنوعی هم وجود داشته باشد. اینجا هم ممکن است افسانه‌های علمی، ما را گمراه کرده باشند. در کتاب‌ها و فیلم‌های هوش مصنوعی، آگاهی یک فحش محسوب می‌شود! ربات‌ها رفتارهایی تعمدی و غیرقابل پیش‌بینی را نشان می‌دهند که برای انسان‌ها به خوبی فهمیده نشده است. تمام خطرات هوش مصنوعی، فقط به آگاه بودن آنها بستگی ندارد؛ برعکس، ماشین‌های آگاه میتوانند برای مدیریت فناوری هوش مصنوعی به ما کمک کنند. من جهان را با آنها، بیشتر از ماشین‌های بی‌فکر و اندیشه، به اشتراک خواهم گذاشت.
پرده دوم: فراشناخت و هوش مصنوعی آگاه
وقتی آلفاگو (AlphaGo) با قهرمان انسانی این بازی، لی سدول (Lee Sedol) بازی کرد، بسیاری از متخصصان شگفت‌زده شدند که چرا آلفاگو آنطور بازی کرد. آنها می‌خواستند توضیحی برای انگیزه و منطق آلفاگو پیدا کنند. چنین موقیعت‌هایی در هوش مصنوعی مدرن رایج‌اند، زیرا تصمیم‌های آنها با انسان‌ها برنامه نویسی نشده، بلکه ویژگیهای ظهوریافته‌ای از الگوریتم‌های یادگیری و داده‌هایی هستند که به آنها آموزش داده شده بود. مرموز بودن آنها باعث نگرانی درباره‌ی تصمیم‌های ناعادلانه و سرخود شده است. در حال حاضر، مواردی از تبعیض توسط الگوریتم‌ها وجود دارد، مثلا یک بررسی سازمان پروپابلیکا (ProPublica) در سال گذشته نشان داد الگوریتمی که توسط قضات و افسران آزادی بیان در فلوریدا استفاده شده، متمهمان سیاه‌پوست را بیشتر از چیزی که واقعا وجود دارد، مستعد بازگشت به جرم تشخیص می‌دهد، در حالیکه متهمان سفید‌پوست را کمتر از مقدار واقعی، مستعد بازگشت به جرم می‌داند. در حال حاضر، با توجه به پیچیدگی شبکه‌های عصبی امروزی، بسیار سخت است که چگونگی تصمیم‌گیری هوش مصنوعی را بفهمیم، زیرا این فرآیند را نمی‌توان به زبان ملموسی برای انسان، ترجمه کرد.
حالا که نمی‌توانیم بفهمیم چرا هوش مصنوعی اینگونه رفتار می‌کند، چرا از خودشان نپرسیم؟ ما می‌توانیم به آنها فراشناخت (metacognition) بدهیم؛ قابلیتی برای گزارش حالات روانی و ذهنی درونشان. این قابلیت، یکی از عملکردهای مهم آگاهی بوده و چیزی است که دانشمندان علوم اعصاب، به دنبال آن هستند. در آزمایش‌هایی که آنها به دنبال آزمودن آگاهی انسان‌ها یا حیوانات هستند، شکلی بنیادی از فراشناخت با تجربه‌ی آگاهی تغییر می‌کند. وقتی مغز، اطلاعات را بدون توجه ما یا به صورت ناخودآگاه پردازش می‌کند، در مورد آن اطلاعات، احساس عدم قطعیت داریم، در حالیکه وقتی از یک انگیزه یا محرک، آگاه هستیم، تجربه‌اش با اطمینان زیادی همراه می‌شود: من قطعا گل قرمز را دیدم.
هر ماشین حسابی با فرمول‌های ثابتی برنامه‌نویسی می‌شود که دارای درجه‌ای از اطمینان هستند، اما هیچ ماشینی هنوز محدوده‌ی کامل توانایی فراشناخت ما را ندارد. برخی فیلسوفان و دانشمندان علوم اعصاب، به دنبال کشف ایده‌ای هستند که در آن فراشناخت، به عنوان جوهر یا ذات اصلی آگاهی درنظر گرفته می‌شود. نظریه‌های به اصطلاح سطح بالاتر آگاهی، فرض می‌کنند تجربه‌ی آگاهی به نمایش‌های ثانویه‌ی نمایش مستقیم حالات حسی بستگی دارد. وقتی ما چیزی را می‌دانیم، می‌دانیم که آن را می‌دانیم. برعکس، وقتی این خودآگاهی را نداریم، ناآگاه هستیم، در واقع ما روی حالتی شبیه حالت اتوپایلوت یا عملکرد خودکار هستیم، یک ورودی حسی را می‌گیریم و روی آن، کار انجام می‌دهیم، اما آن را ثبت نمی‌کنیم.
حُسن این نظریه‌ها آن است که جهت درست را برای ساختن هوش مصنوعی آگاه به ما نشان می‌دهند. من و همکارانم در تلاشیم تا فراشناخت را در شبکه‌های عصبی که میتوانند با حالات درونی‌شان ارتباط برقرار کنند، اجرا کنیم. ما این پروژه را «پدیده‌شناسی ماشین» می‌نامیم که ساختارهای آگاهی را از طریق بازتاب سازمان‌یافته روی تجارب آگاهی مطالعه می‌کند. در صورتی که از هوش مصنوعی بخواهیم خودش را به زبان انسانی بیان کند، باید زبان انسانی را به آن آموزش دهیم و این آموزش کار بسیار دشواری است، بنابراین برای اجتناب از این دشواری، ما در پروژه‌ی خود بر روی آموزش زبان خودِ هوش مصنوعی تمرکز کرده‌ایم و در نتیجه آنها میتوانند تجزیه تحلیل‌های درونی‌شان را به زبان خودشان با یکدیگر به اشتراک بگذارند. این تجزیه تحلیل‌ها، شامل دستورالعمل‌هایی از چگونگی انجام یک وظیفه توسط هوش مصنوعی است و در واقع یک گام ورای ارتباط معمول و امروزی ماشین‌هاست، چرا که امروزه ماشین‌ها فقط میتوانند نتایج وظایف خود را با یکدیگر به اشتراک بگذارند. ما دقیقا مشخص نمی‌کنیم ماشین چگونه این دستورالعمل‌ها را رمزگذاری کند، شبکه‌ی نورونی خودش روشی را از طریق فرآیند آموزش توسعه می‌دهد که با انتقال دستورالعمل‌ها به ماشین دیگر، پاداش می‌دهد. ما امیدواریم این رویکرد را بتوانیم برای ایجاد ارتباطات انسان-هوش مصنوعی توسعه دهیم، به گونه‌ای که نهایتا بتوانیم از هوش مصنوعی، توضیح بخواهیم.
آگاهی علاوه بر اینکه درجه‌ای از خودآگاهی به ما می‌دهد، کمک می‌کند به آن چیزی که متخصص اعصاب، اندل تولوینگ (Endel Tulving) آن را «سفر زمانی ذهنی» نامید، برسیم. وقتی نتایج کنش‌های خودمان را پیش‌بینی کرده یا برای آینده برنامه‌ریزی می‌کنیم، آگاه هستیم. من می‌توانم تصور کنم اگر موهایم را فر کنم چه شکلی می‌شوم، حتی بدون اینکه واقعا اینکار را انجام دهم یا می‌توانم در مورد رفتن به آشپزخانه و درست کردن قهوه بدون اینکه واقعا از سر جایم برخیزم، فکر کنم.
در حقیقت، حتی حس ما از لحظه‌ی حاضر، ساختاری از ذهن آگاه و هوشیار است و آزمایش‌ها و مطالعات موردی، گواهی بر این ادعا هستند. افراد مبتلا به بیماری ادراک پریشی (agnosia) که بخش شناخت اشیا در کورتکس دیداری آنها آسیب دیده، نمی‌توانند نام اشیایی که می‌بینند را بگویند، اما میتوانند آن را بردارند. اگر یک پاکت نامه به آنها بدهید، می‌دانند چگونه آن را در دست بگیرند و چگونه داخل شیار صندوق پست بیاندازند، اما اگر آزمایشگران، بین نشان دادن اشیا و درخواست انجام یک وظیفه‌ی خاص، تاخیر زمانی ایجاد کنند، بیماران نمی‌توانند آن کار انجام دهند. از قرار معلوم، آگاهی به اطلاعات پیچیده‌ای که در لحظه پردازش می‌شوند، ربطی ندارد. تازمانیکه یک محرک به طور آنی، موجب یک کنش شود، ما به آگاهی نیاز نداریم. آگاهی زمانی مهم می‌شود که ما به حفظ اطلاعات، حداقل برای چند ثانیه نیازمندیم.
پرده سوم: تولید اطلاعات خلاف واقع و هوش مصنوعی آگاه
اهمیت آگاهی در ایجاد یک پل در یک فاصله‌ی موقتی، با آزمایش شناختی روانشناسی خاصی مشخص می‌شود: در شرطی سازی کلاسیکی که برای اولین بار توسط ایوان پاولف (Ivan Pavlov) و سگش انجام شد، آزمایشگر، محرکی مانند فوت کردن به پلک یا یک شوک الکتریکی به انگشتان را با یک محرک غیروابسته، مانند یک تن صدا، هماهنگ می‌کند. افراد تحت آزمایش، این هماهنگی را به طور خودکار و بدون تلاش آگاهانه می‌آموزند. آنها با شنیدن تن صدا، ناخواسته عقب می‌روند، زیرا احتمال فوت یا شوک را پیش‌بینی می‌کنند. وقتی آزمایشگر در مورد علت اینکار از آنها می‌پرسد، نمی‌توانند توضیحی بدهند. اما این آموزش، فقط تا زمانی کار می‌کند که دو محرک از نظر زمانی با یکدیگر همپوشانی داشته باشند. وقتی آزمایشگر، محرک دوم را با تاخیر بروز می‌دهد، فقط افرادی که به طور آگاهانه از رابطه بین دو محرک باخبر باشند، میتوانند پیش‌بینی درستی کنند. به نظر می‌رسد شرکت‌کنندگان برای به خاطر سپردن محرک، پس از آنکه متوقف شد، به آگاهی نیاز دارند.
این مثال‌ها نشان می‌دهند آگاهی، پنجره‌ی دید ما به جهان را وسیع‌تر می‌کند. میدان هوشیاری آگاهانه‌ی ما، می‌تواند اطلاعات حسی را به شکلی مفید و انعطاف‌پذیر در طول زمان و پس از اینکه محرک وجود نداشت، حفظ کند. در واقع مغز همچنان به تولید نمایش‌های حسی، وقتی حتی دیگر ورودی حسی مستقیمی وجود ندارد، ادامه می‌دهد. عنصر موقت آگاهی می‌تواند به صورت تجربی آزموده شود. فرانسیس کریک و کریستف کخ پیشنهاد کردند مغز ما، تنها کسری از ورودی دیداری ما را برای برنامه ریزی کنش‌های آینده استفاده می‌کند و تنها این ورودی باید با آگاهی در ارتباط باشد.
یک سرنخ در این مثال‌ها، تولید اطلاعات خلاف واقع (counterfactual information generation) است که به معنای توانایی تولید نمایش‌های حسی است که مستقیما در مقابل ما نیستند. ما آن را «خلاف واقع» می‌نامیم، زیرا حافظه‌ی گذشته یا پیش‌بینی کنش‌های تحقق نیافته‌ی آینده را در برمی‌گیرد، برخلاف چیزی که در جهان خارج اتفاق می‌افتد. از طرفی ما آن را «تولید» می‌نامیم، زیرا صرفا پردازش اطلاعات نیست، بلکه یک فرآیند فعال از خلق فرضیه و آزمون است. در مغز، ورودی حسی، با جریان از نواحی سطح پایین به نواحی سطح بالای آن، به طور گام به گام، به نمایش‌های انتزاعی‌تر فشرده می‌شود؛ یک فرآیند یک طرفه و رو به جلو. جالب آنکه پژوهش‌های نوروفیزیولوژی نشان می‌دهند این فرآیند رو به جلو، هر چند هم پیچیده باشد، به تجارب آگاهی وابسته نیست، زیرا شما باید از نواحی سطح بالا به نواحی سطح پایین، واکنش نشان دهید.
تولید اطلاعات خلاف واقع اجازه می‌دهد یک فرد آگاه، خود را از محیط جدا کرده و رفتار غیر بازتابنده نشان دهد، مانند انتظار سه ثانیه‌ای قبل از عمل. برای تولید اطلاعات غیرواقعی، ما باید یک مدل داخلی داشته باشیم که قوانین آماری دنیا را آموخته است. چنین مدل‌هایی میتوانند برای اهداف بسیاری مانند استدلال، کنترل موتور و شبیه‌سازی ذهنی استفاده شوند.
مدل‌های آموزش هوش‌های مصنوعی امروزی، پیچیده است، اما همه‌ی آنها بر داده‌هایی که ما برای یادگیری به آنها می‌دهیم، تکیه می‌کنند. با تولید اطلاعات خلاف واقع، هوش های مصنوعی قادر خواهند بود داده‌های خودشان را تولید کرده و آینده‌های ممکن خود را تصور کنند. چنین امکانی، آنها را قادر می‌سازد تا خود را با موقعیت‌های جدیدی که قبلا با آنها روبرو نشده‌اند، سازگار کنند. این امکان همچنین هوش های مصنوعی را به عنصر کنجکاوی مجهز خواهد کرد؛ یعنی آنها تلاش می‌کنند چیزی که قرار است در آینده رخ دهد را بفهمند.
من و گروهم در تلاشیم تا این قابلیت را به مرحله‌ی اجرا برسانیم. ما در یک آزمایش، ربات‌هایی را شبیه سازی کرده‌ایم که توانایی رانندگی یک کامیون را از طریق یک تصویر داشته‌اند. اگر از آنها میخواستیم از یک تپه بالا بروند، معمولا باید تپه را به عنوان یک هدف تعیین کرده و میخواستیم بهترین مسیر را برای بالا رفتن بیابند. اما ربات‌های مجهز به کنجکاوی، تپه را به عنوان یک مسئله تشخیص داده و فهمیدند چگونه از آن بالا بروند بی آنکه به آنها چنین دستوری داده شده باشد.
اگر درون‌گرایی و تصور را به عنوان دو مولفه‌ی اصلی آگاهی درنظر بگیریم، ما نهایتا به هوش مصنوعی آگاه خواهیم رسید. ما می‌خواهیم ماشین‌هایمان بتوانند چرایی و چگونگی کارهایشان را به ما توضیح دهند. ساختن چنین ماشین‌هایی، بهترین تمرین برای تصور خود ما و همچنین بهترین آزمون برای قدرت خلاف واقع آگاهی خواهد بود.
جمع‌بندی
به طور کلی، در مورد ساختن هوش مصنوعی آگاه ، دو نکته به نظرم می‌رسد که دوست دارم به عنوان حسن ختام این مقاله عنوان کنم. اول اینکه همانطور که کانای هم اشاره می‌کند، مجهز کردن یک ربات به خصلتی انسانی که سازوکارش حتی برای خودمان هم معمای بزرگی است، بسیار جالب‌توجه است. کسی چه می‌داند شاید هوش مصنوعی آگاه ، پنجره‌ی تازه‌ای به روی این معمای بزرگ باز کرده و راه درست برای شناخت آن را به ما نشان دهد. نکته‌ی دوم اینکه به نظرم ساختن چنین رباتی، مانند یک شمشیر دو لبه است. اگرچه یک هوش مصنوعی آگاه ، توانایی‌های خارق‌العاده‌ای نسبت به ربات‌های امروزی داشته و در زندگی بشری، بشدت تاثیرگذار خواهد بود، اما نباید از این نکته غافل شویم که چنین ربات هوشمندی، می‌تواند تهدید بزرگی هم برای بشریت باشد. تاریخ گواهی می‌دهد که توسعه‌ی علم، همیشه به نفع بشر نبوده، حتی وقتی خود کاشف یا مخترع، نیتی جز منفعت‌رسانی و توسعه‌ی علم، در ذهن نداشته است. مهم‌ترین شاهدی که به یاد می‌آورم، بخشی از خاطرات ورنر هایزنبرگ فقید در کتاب «جز و کل» است که بعداز ظهر روزی در اوت 1945 را به تصویر می‌کشد، روزی که همراه دیگر دوستان فیزیکدانش در یک اسارت‌گاه به سر می‌بردند و خبر بمباران اتمی هیروشیما را از رادیو شنیدند. در میان آن جمع، اتوهان، کاشف شکافت اورانیوم بیش از همه شوکه شد و حتی دوستانش از ترس خودکشی، دائما مراقبش بودند. او هیچگاه پیش‌بینی نمی‌کرد یافته‌اش، تبدیل به سلاحی مرگبار و وحشتناک شده و هزاران انسان بی‌گناه را به نابودی بکشاند.
این نکته‌ی مهم را فیلسوف و فیزیکدان آلمانی، فون وایستکر در سخنرانی‌اش (علم ما را به کجا می‌برد؟ 1953) به زیبایی مطرح می‌کند. ما در کنار علم، به فلسفه‌‌ای نیاز داریم که راه درست استفاده از آن را به ما گوشزد کند. من هم فکر می‌کنم، ویل دورانت به درستی معتقد است: فلسفه بدون علم، ساقط و مغشوش است، اما علم بدون فلسفه، نه تنها ناتوان است، بلکه می‌تواند مخرب و بنیان‌کن نیز باشد. با این همه، به نظرم در مورد هوش مصنوعی آگاه ، با موقعیت جدیدی مواجهیم، اینجا دیگر حتی نه انسان، که خود هوش مصنوعی آگاه ، تصمیم‌گیرنده‌ی اصلی خواهد بود و باید دید چگونه می‌توان راه درست استفاده از قابلیت‌هایش را به او آموخت. فکر می‌کنم کم کم در حال وارد شدن به فیلم‌های علمی تخیلی در دنیای واقعی هستیم!
