افسانه‌های رباتی با چاشنی مدرن

مدت‌ها قبل از ظهور رایانه‌های مدرن امروزی، چیزی حدود اواسط قرن بیستم، هم افسانه‌های هوش مصنوعی در میان ما وجود داشتند. حتی برخی از سنت‌های فرهنگی کشورهای مختلف جهان بویژه در اروپا، شامل داستان‌هایی درباره ماشین‌های خودکار یا موجودات دیگری است که توسط انسان‌ها طراحی شده‌اند و حیات یافته‌اند؛ از جمله داستان‌های پیگمالیون و خادمان هفاستوس از اساطیر یونان یا سربازان خودکار (automatons) در متون مقدس هند. این داستان‌ها هنوز با ما هستند، فقط برای عصر مدرن دوباره باز تعریف و به روز شده‌اند. یکی از مشهورترین تکرارهای مدرن، افسانه فرانکنشتاین است که در آن یک دانشجوی سرکش پزشکی از دانش علمی خود برای ایجاد یک موجود مصنوعی استفاده می‌کند اما سپس مسئولیت این خلقت خود را بر عهده نمی‌گیرد. این گونه روایات همگی بر اساس مجموعه‌ای از پرسش‌ها هستند که در شرایط حیات انسانی نقش اساسی دارند: ما به‌عنوان خالقان، والدین و سازندگان در این دنیا چه مسئولیت‌هایی داریم؟ انسانیت و شخصیت را چگونه تعریف کنیم؟ معنای زندگی چیست و ایجاد زندگی جدید چه پیامدهایی دارد؟

با تسریع پیشرفت تکنولوژی، ایده‌ی «خدا بازی» یا نقش بازی کردن به عنوان یک آفریدگار یا خالق از آزمایش فکری به تجربه‌ی واقعیت نزدیک شده است. بشریت در حال حاضر نقش مهمی در تغییر تقریباً هر سیستم بیولوژیکی روی کره زمین ایفا کرده است و ما در یک تجربه‌ی نفس گیر در حال ایجاد و از بین بردن اشکال مختلفی از حیات هستیم. این دقیقاً همان زمینه‌ای است که در آن افسانه‌های معاصر درباره هوش مصنوعی در گردش است. ما تمایل داریم همان چند روایت را با مقداری تغییر و جزئیات متقاطع خاص تکرار کنیم. حداقل یکی از روایت‌های کهن‌الگو که در زیر آورده‌ایم را می‌توانید در تقریباً هر بحثی که امروز درباره هوش مصنوعی داریم و قطعاً در داستان‌هایی که درباره آینده هوش مصنوعی می‌گوییم، بیابید.

افسانه‌های رباتی کهن

• آخرالزمان ربات‌ها: بزرگترین ترس جمعی ما این است که هوش مصنوعی‌ای بسازیم که جایگزین بشریت شود. ماشین‌های متفکری که از انسان‌ها باهوش‌تر و توانمندتر هستند، ممکن است به سرعت از انسانیت پیشی بگیرند؛ همانطور که در روایت‌هایی مانند سری فیلم‌های ترمیناتور، من ربات هستم و بسیاری دیگر فیلم‌های آخرالزمانی تصور می‌شود. مسئله هوش مصنوعی به عنوان یک تهدید وجودی برای بشریت، فیلسوفان غربی و همچنین فیلمسازان، از جمله نویسندگان برجسته‌ای مانند نیک بوستروم و مکس تگمارک را به خود مشغول کرده است. این داستان‌ها همچنین بر اضطراب عمیق بشر در مورد قدرت دست می‌گذارند؛ مثلاً نقش ارباب و بردگان، مانند نمایشنامه معروف کارل کاپک R.U.R.، که کلمه «ربات» را به عنوان جایگزینی برای کلمه رعیت ابداع کرد. اگر هوش مصنوعی را به عنوان برده‌ای برای بشریت طراحی کنیم، آیا این اجتناب ناپذیر است که این بردگان علیه اربابان خود قیام کنند؟
• معشوق‌ها و معشوقه‌های رباتی: اگر هوش مصنوعی ما را سرنگون هم نکند، در عوض ممکن است ما را (به ویژه مردان) اغوا کند. اگر هوش مصنوعی به اندازه‌ی کافی پیشرفته‌ای ایجاد کنیم، ممکن است این موجودات جدید را غیرقابل مقاومت بدانیم؛ موجود کامل‌تر از انسان‌های صرف. در برخی از نسخه‌های این روایت، مانند سری فیلم‌های Westworld یا Blade Runner، نگرانی این است که هوش مصنوعی به‌عنوان انسان فراتر برود و مرز بین انسان و غیرانسان را به‌طور فریبنده‌ای محو کند. در برخی دیگر، هوش مصنوعی ممکن است حتی بدون اینکه کاملاً انسانی باشد، اغواکننده باشد، مانند فیلم Spike Jonze Her. برخلاف اسطوره‌های باستانی پیگمالیون یا آدم و حوا، در روایت جونز داستان عشق به اشتباه پیش می‌رود و انسان‌ها توسط هوش مصنوعی طرد می‌شوند، زیرا ما برای چنین هوش‌های پیشرفته‌ای خیلی خسته‌کننده هستیم.
• ماشین خداگونه (The God machine): این روایت ما را به کهن الگوی نهایی داستان هوش مصنوعی، یعنی ابر هوش می‌رساند. بسیاری از داستان نویسان ایده یک هوش مصنوعی فوق بشری را که درک ما را تحت الشعاع قرار می‌دهد، بررسی کرده‌اند. برخی افراد حدس می‌زنند که ما به زودی با لحظه‌ای روبرو خواهیم شد که چنین شتابی در قابلیت هوش مصنوعی اجتناب ناپذیر می‌شود و آن را «تکینگی» می‌نامند. در فیلم‌های ماتریکس، این ماشین خداگونه بشریت را در شبیه‌سازی واقعیت زندانی می‌کند؛ حتی در یکی از مکاتب بحث‌های فلسفی استدلال می‌کنند که ما واقعاً در چنین دنیای شبیه‌سازی‌شده‌ای زندگی می‌کنیم. در روایت‌های دیگر، مانند «راهنمای هیچ‌چیکر برای کهکشان» داگلاس آدامز، این ماشین‌ها با بشریت همزیستی می‌کنند و توانایی رهبری، مباشرت و راهنمایی را به انسان ارائه می‌دهند.

نویسندگان ژاپن هم تخیل غنی خود را در مورد ربات‌ها و هوش مصنوعی توسعه داده‌اند که با آثار پس از جنگ مانند Tetsuwan-Atomu (که بیشتر با نام Astro Boy شناخته می‌شود) و کارهای اخیرتر مانند Kōkaku Kidōtai (شبح در پوسته) با نفوذ جهانی بالایی پا به عرصه گذاشته‌اند.

قوانین هوش مصنوعی

همراه با افسانه‌ها و افسانه‌های هوش مصنوعی که معرفی شد، انتظار عقلانیت و رفتار منطقی هم از هوش مصنوعی وجود دارد که زمینه‌ساز داستان‌های تعامل انسان با ماشین‌های هوشمند است. این انتظار خود را در شبکه‌های پیچیده‌ای از قوانین، هنجارها و قراردادها نشان می‌دهد که بر نحوه بحث، ترسیم و حتی تصور هوش مصنوعی در جامعه حاکم است. «قواعد» هوش مصنوعی معمولاً به سؤالات فلسفی مهمی در مورد اخلاق و اخلاق تعامل انسان و ماشین و همچنین ماهیت و ویژگی‌های هوش مصنوعی اشاره می‌کند. به موازات توسعه سیستم‌های هوش مصنوعی، این قوانین اجتماعی و فرهنگی با شرایط صریح‌تر و منطقی‌تر برای حاکمیت بر رفتار هوشمندانه و اخلاقیات آن آغاز شد، اما به زودی به توزیع و ظهور با پیامدهای غیرمنتظره و معضلات اخلاقی خاکستری تبدیل شد.

ایزاک آسیموف، نویسنده علمی تخیلی، در دهه‌های 1940 و 1950، برای تعیین عقلانیت یا منطق در پس ربات‌های هوشمند، از اولین ذهنیت خود بهره برد. سه قانون رباتیک او در داستان علمی تخیلی‌اش به صورت صریح در روبات‌هایی برنامه‌ریزی شده بود که از انسان‌هایی که با آن‌ها تعامل دارند محافظت یا محافظت می‌کنند.

• قانون اول: ربات نمی‌تواند به انسان صدمه بزند یا از طریق انفعال اجازه آسیب رساندن به انسان را بدهد.
• قانون دوم: ربات باید از دستوراتی که توسط انسان‌ها داده می‌شود اطاعت کند مگر در مواردی که این دستورات با قانون اول در تضاد باشد.
• قانون سوم: ربات باید از وجود خود محافظت کند تا زمانی که چنین حفاظتی با قانون اول یا دوم در تضاد نباشد.

قوانین آسیموف اغلب در نوشته‌های او تکرار می‌شود و بسیاری از داستان‌ها، روبات‌هایی با برنامه‌نویسی را نشان می‌دهند که یک یا چند مورد از این قوانین را تغییر داده‌اند که منجر به رفتارهای جدید، هیجان‌انگیز و خطرناک شده است. به عنوان مثال در کتاب «روبات گمشده کوچک»، دکتر سوزان کالوین، روانشناس رباتی، بیان می‌کند که حذف «بند عدم عمل» قانون اول می‌تواند منجر به این شود که یک ربات وزنه‌ای سنگین را روی یک انسان به قصد گرفتن وزن آن بیاندازد.

این «قوانین» بینشی را در مورد نیاز ما به محافظت از خود در برابر ماشین‌های فرانکشتاینی خود و تمایل به جلوگیری از عواقب مضر از طریق اطاعت رباتیک کورکورانه از این مجموعه احکام ارائه می‌دهد. در عین حال، این قوانین بسیار محدود هستند و فهرست گسترده‌ای از هنجارها، کدها و مقررات را برای ربات‌ها تجویز نمی‌کنند؛ بر خلاف محدودیت‌های عجیب و غریب بی‌شماری که برای انسان‌ها اعمال می‌شود. داستان‌های او از طریق درک تمایل ما برای یافتن مبنایی منطقی برای طراحی ایمن ماشین‌های هوشمند، تخیل ما را تسخیر کرده است.

افسانه‌ها در دنیای امروز

شیفتگی ما به قوانین و هوش مصنوعی همچنین به رمزگذاری رفتارهای اخلاقی در ماشین‌ها و الگوریتم‌هایمان گسترش می‌یابد و منعکس‌کننده مشکلات خودمان در تجویز عبارات هنجاری برای اخلاق است. در بحث بر سر خودروهای خودران، یک آزمایش فکری رایج فلسفی، آزمایش واگن قطار است؛ فرض مشکل واگن برقی یک انتخاب اجباری است: یک ناظر، قطاری می‌بیند که روی یک ریل به سمت گروهی از افراد (معمولاً پنج نفر) که روی ریل بسته شده‌اند حرکت می‌کند و او می‌تواند یک سوئیچ را بچرخاند تا واگن را به مسیر جایگزین هدایت کند که فقط یک نفر روی آن بسته شده است. در حالی که اکثر افراد شرکت‌کننده در نظرسنجی سوئیچ را می‌چرخانند، تغییرات متعددی از آزمایش قطار فیلسوفان و روان‌شناسان را مجذوب خود کرده است، از جمله زمانی که فردی که در مسیر جایگزین است یک نوزاد یا مادربزرگ شماست. برای فناوری هوش مصنوعی، مشکل واگن قطار به عنوان یک معضل اخلاقی کلاسیک در مورد این است که چگونه باید وسایل نقلیه خودران و سایر وسایل خودکار خود را طراحی کنیم.

همانطور که این مثال‌ها نشان می‌دهند، هوش مصنوعی عرصه جدیدی است که در آن با معضلات اخلاقی که هرگز به‌طور کافی یا پیوسته در جامعه به طور کامل حل نکرده‌ایم باید دست‌وپنجه نرم کنیم. در داستان‌ها و فرهنگ ما، قدرت درک شده هوش مصنوعی همیشه با قوانین و هنجارهای حاکم بر رفتار آن همراه بوده است. این قوانین نیاز روانشناختی ما به ایمنی را برآورده می‌کنند، به‌ویژه زمانی که با بیگانه بودن فناوری هوشمند مواجه می‌شویم، اما همچنین زمانی که شکاف‌ها، انحرافات و حفره‌هایی را تجسم می‌کنیم که می‌توانند مرزهای اخلاقی و اخلاقی ما را به چالش بکشند، محتوای غنی و تخیلی را ارائه می‌دهند. فلسفه ارسطویی به طور کلاسیک انسان‌ها را حیوانات منطقی می‌داند و ما از ماشین‌های هوشمند انتظار داریم که مجموعه‌ای از منطق و رفتار منطقی را دنبال کنند. با این حال، این فرض ممکن است قدیمی باشد، زیرا ما به طور فزاینده‌ای سیستم‌های مستقلی را طراحی می‌کنیم که با جامعه و فرهنگ انسانی در تعامل هستند (مانند چت بات‌ها، فیلترهای خبری، نویسندگان رباتی خودکار)، ما به سرعت در حال یافتن مرزها و نقاط شکست رفتار منطقی و سازگاری اخلاقی هستیم. همانطور که فناوری هوش مصنوعی در سراسر جامعه گسترش می‌یابد، این قوانین و انتظارات تغییر می‌کنند و تغییر می‌کنند تا منعکس‌کننده ماهیت همیشه در حال تغییر این باشد که چگونه هوش مصنوعی می‌تواند زندگی ما را تحت تأثیر قرار دهد.

در مقالات بعدی بیشتر در مورد روزنامه‌نگاری رباتی و جایگاه اخلاق و قوانین در آن صحبت خواهیم کرد.