دکتر حامد حاجی‌حیدری؛ 
فقط ایده‌ای برای تأمل بیشتر
▀█▄ چکیده
فناوری دیجیتال و نرم‌افزار رایانه‌ای، تا سال ۱۹۹۵، به شکل IT (Information Technology) شناخته می‌شد، ولی پس از ۱۹۹۵ و با برآمدن گوگل به عنوان یک نقطه عطف، سنخی از فناوری دیجیتال سر برآورد که حائز یک تفاوت مهم است؛ این‌که می‌تواند در الگوریتم‌های پایه خود تجدیدنظر کند. به این سنخ از فناوری اطلاعات، AI (Artifitial Intilligence) یا همان هوش مصنوعی اطلاق می‌کنیم. از این جهت، هوش مصنوعی یک نقطه عطف در تاریخ فناوری به حساب می‌آید؛ چرا که به رغم سایر فناوری‌های مخلوق ما، لزوماً در راستای برنامه‌ریزی شده از جانب ما عمل نخواهد کرد. اگر «یادگیری» هوش مصنوعی با آهنگ فزاینده فعلی ادامه یابد، هوش مصنوعی به سرعت به سطح انسانی یا همان سطح AGI (Artificial General Intelligence) خواهد رسید. اوج شتاب‌گیری روند فعلی ما به سمت هوش مصنوعی همه‌جانبه، ممکن است بهترین موهبت یا بدترین فاجعه‌ای باشد که برای بشریت اتفاق می‌افتد. ما علاوه بر آن‌که باید قویاً در مورد انواع سناریوهای آینده فکر کنیم، در عین حال، باید قویاً هم حاضر و فعال باشیم تا به روندهای آینده شکل دهیم. آن‌چه قطعی است این است که برای شکل‌دهی به روندهای آینده، هیچ تسلط غیر قابل فایق آمدنی وجود ندارد و همه چیز به نیروهای فعال بستگی دارد.
▀█▄ واژگان کلیدی
فناوری اطلاعات (IT)، هوش مصنوعی (AI)، هوش مصنوعی همه‌جانبه (AGI)
▀█▄ مقدمه
▬ کلیدنکته ۱. «زندگی» را می‌توان فرایندی دانست که می‌تواند پیچیدگی و استمرار خود را در تقابل با بی‌نظمی‌های محیطی حفظ کند؛ یعنی، می‌تواند تغذیه، رشد، تولید مثل، و دفع قاذورات نماید. این، کم و بیش تعریفی از «موجود زنده» است که از هربرت اسپنسر تا حال، در فن زیست‌شناسی معیار قرار گرفته است.
▬ کلیدنکته ۲. و اگر این ضوابط و شرایط برای ماشین‌ها و ارگانیسم‌های انسانی که به سخت‌افزار مجهز می‌شوند، فراهم شود، آن‌گاه می‌توان سه ورژن و مرحله برای بسط این پساانسان متصور شد:
۱. ورژن بیولوژیک (۱.۰)، که طی آن، سخت‌افزار و نرم‌افزار پیکر تکامل می‌یابد و با موفقیت همساز می‌شود؛
۲. ورژن فرهنگی (۲.۰)، که طی آن می‌تواند نرم‌افزار خود را از طریق یادگیری طراحی کند و بسط دهد؛
۳. ورژن حرفه‌ای (۳.۰)، که می‌تواند سخت‌افزار خود را نیز طراحی کند، و استاد سرنوشت خویش شود.
▬ کلیدنکته ۳. به لحاظ فنی این امکان تصور می‌شود که در قرن بیست و یکم، هوش مصنوعی ما را قادر به ایجاد زندگی در سطح و ورژن ۳.۰ نماید، یا ما را به آستانه‌های آن بسیار نزدیک گرداند. پرسش این است که این سنخ از پساانسان در نسبت با اجتماع بشری، چه منطقی اعمال می‌کند؟ چه تغییری در مناسبات اجتماعی ایجاد می‌کند؟ ریخت قشربندی اجتماعی به چه نحو خواهد بود؟ آیا سنخی از سلطه ماشین بر انسان پدید می‌آید؟
▬ کلیدنکته ۴. سه اردوگاه اصلی نظری در نسبت با این مباحث وجود دارد:
۱. تردیدگران فنّاوری/Techno-Skeptics؛
۲. آرمان‌شهرگرایان دیجیتال/Digital Utopians؛
۳. جنبش جستجوی مزایای هوش مصنوعی/Beneficial-AI Movement.
▬ کلیدنکته ۵. تردیدگران فنّاوری، ساخت یک هوش مصنوعی همه‌جانبه (شرح هوش مصنوعی همه‌جانبه یا AGI را خواهیم آورد) که بتواند به اجتماع بشری مسلط شود را آن قدر دشوار می‌دانند که به باور آن‌ها تا صدها سال آتی نیز امکان تحقق نخواهد داشت. از این رو، نگرانی از ورژن حرفه‌ای ۳.۰ پساانسان را بلاوجه می‌شمرند.
▬ کلیدنکته ۶. در مقابل، آرمان‌شهرگرایان دیجیتال، باور دارند که به احتمال زیاد، پساانسان از طریق ضمیمه شدن ماشین با ارگانیسم انسانی، در همین قرن پیش رو تحقق می‌یابد؛ آن‌ها از صمیم قلب از ورژن حرفه‌ای ۳.۰ پساانسان استقبال می‌کنند، و آن را گام طبیعی و مطلوب در تکامل جهان و خلقت به حساب می‌آورند. آن‌ها باور ندارند که این سنخ از فناوری با اقسام پیشین که استمرار انسان به حساب می‌آمد، فرق اساسی داشته باشد. از ابداع چرخ تا حال، هر فناوری به دامنه توان انسان افزوده است و فناوری دیجیتال و هوش مصنوعی نیز در همین راستا قابل بررسی است.
▬ کلیدنکته ۷. جنبش جستجوی مزایای هوش مصنوعی، هر چند که باور دارند که امکان برآمدن AGI در سده بیست و یکم هست، ولی در عین حال ابرام دارند، برای آن‌که این دستاورد، واقعاً نتایج خوبی به بار آورد، کار سختی در قالب تحقیقات ایمنی هوش مصنوعی نیاز هست. این باور هست که هوش مصنوعی با همه فناوری‌هایی که تا کنون بشر خلق کرده است این تفاوت را دارد که خودفرمان است و توان بازنگری در الگوریتم‌های خود را دارد. این ظرفیت، هیچ‌گاه در تاریخ فناوری از چرخ تا یارانه‌های قبل از ۱۹۹۵ نبوده است. ولی پس از پدید آمدن هوش مصنوعی، یک دگرگونی تاریخی روی داده است که باید برای ابعاد تازه آن مهیا شد.
▀█▄ هوش مصنوعی همه‌جانبه (AGI-ARTIFICIAL GENERAL INTELLIGENCE)
▬ کلیدنکته ۸. فناوری دیجیتال و نرم‌افزار رایانه‌ای، تا سال ۱۹۹۵، به شکل IT (Information Technology) شناخته می‌شد، ولی پس از ۱۹۹۵ و با برآمدن گوگل به عنوان یک نقطه دراماتیک، سنخی از فناوری دیجیتال سر برآورد که حائز یک تفاوت مهم است؛ این‌که می‌تواند در الگوریتم‌های پایه خود تجدیدنظر کند. به این سنخ از فناوری اطلاعات، AI (Artifitial Intilligence) یا همان هوش مصنوعی اطلاق می‌کنیم.
▬ کلیدنکته ۹. هوش، عبارت است از توان دستیابی به اهداف پیچیده، از طریق خلق مسیرهای خلاق. هوش، به نوبه خود یک پارامتر مرکب و پیچیده است که شامل چندین توانایی متفاوت می‌شود که عمدتاً از طریق طیفی از شاخص‌ها سنجیده می‌گردد؛ چیزی شبیه تست هوش که تجربه کرده‌ایم. نکته این است که هوش مصنوعی امروزی، هنوز همه‌جانبه نیست و هر سیستم، قادر به دستیابی به اهداف بسیار مشخصی است، در حالی که هوش انسانی، دامنه گسترده‌ای را پوشش می‌دهد، و اصطلاحاً یک هوش همه‌جانبه را می‌سازد. هدف در پیشرفت‌های فنی حوزه هوش مصنوعی این است که به نحوی از همه‌جانبگی که در هوش انسانی هست دست یابد. به این غایت، هوش مصنوعی همه‌جانبه (AGI-artificial general intelligence) اطلاق می‌کنیم.
▬ کلیدنکته ۱۰. انسان‌هایی که به ماشین‌های دیجیتال تحت فرمان (IT) مجهز شده‌اند، نه تنها حافظه، قدرت محاسبه، یادگیری و شعور را از ماشین‌های IT وام می‌گیرند و به خود ضمیمه می‌کنند، بلکه از توان عاطفی و انتزاعی نامحدود و ذاتی برخوردار هستند، و از این بابت در مقیاس هوش همه‌جانبه، در رتبه‌ای برتر در قیاس با هوش مصنوعی قرار می‌گیرند.
▬ کلیدنکته ۱۱. فناوری اطلاعات (IT)، ظرفیت‌های عظیمی برای گسترش رو کرده است؛ هر قطعه از ماده که دارای چندین حالت پایدار مختلف باشد، می‌تواند بستر حافظه باشد. تقریباً هر ماده‌ای را می‌توان به یک پردازشگر تبدیل کرد؛ گیت‌های NAND که در حافظه‌های جامد انقلابی به پا کرده، نمونه‌ای از این مدعا هستند. همچنین، شبکه‌های عصبی، بستر قدرتمندی برای یادگیری هستند، زیرا، در راستای قوانین فیزیک، و برقراری تعامل فعال و سایبر با محیط، می‌توانند خود را مستمراً تنظیم کنند تا در اجرای محاسبات بهتر و بهتر عمل نمایند. به طور پیش‌فرض، هر سطح از فناوری اطلاعات به نحو مضاعفی زمینه را برای ظهور سطح بعدی هموار می‌کند، و ظهور سطح آتی فناوری اطلاعات، دگرگونی‌های عظیم‌تری را موجب می‌شود. بر مبنای این پیش‌فرض‌ها، اگر «یادگیری» هوش مصنوعی با آهنگ فزاینده فعلی ادامه یابد، هوش مصنوعی به سرعت به سطح انسانی یا همان سطح AGI خواهد رسید.
▬ کلیدنکته ۱۲. در عین حال، سطح تدابیر انسانی برای طراحی قوانین، سیاست، مشاغل، و سایر نهادهای مدنی، وقتی انسان به فناوری IT مجهز می‌شود یا از فناوری‌های AI در مسیر خلاقانه مد نظر خود استفاده می‌کند، نیز با تصاعد هندسی و بالا افزایش می‌یابد، و بدین ترتیب، تصویر دنیایی که در آن، ماشین‌های AGI بر انسان‌ها مسلط شده‌اند، تصویر سر و ساده و صریحی نیست. مطلقاً نیست، و به نحوه فعالیت انسانی در آینده پیش رو بستگی خواهد داشت. آینده پیش رو، همچون تاریخ پیشین، مطلقاً از جهت اخلاقی متعین و قطعی نیست، و زمینه فراهم است که در آن‌ها انسان‌های مسؤول تعهد خود را به ارزش‌ها عیان کنند.
▬ کلیدنکته ۱۳. پیشرفت‌ها در فناوری دیجیتال، چه در سطح IT و چه در سطح AI، این ظرفیت را دارد تا زندگی انسانی را به شیوه‌هایی بی‌شمار بهبود ببخشد، از غنی ساختن ظرفیت‌های زندگی شخصی، شبکه‌های ارتباطی، و بازارهای مالی تا صرفه‌جویی در کارهای «تراکتوری» زندگی مانند رانندگی و تایپ و منشی‌گری و باربری و هزار یک کار دیگر که نیازی به ظرفیت‌های رؤیایی خلاقه انسانی ندارد، ربات‌های جراحی و سیستم‌های تشخیص و نظارت؛ همه این‌ها مواردی هستند که فناوری دیجیتال طی آن‌ها به انسان ضمیمه می‌شود، و انسان را به ابرانسان تبدیل می‌کند.
▬ کلیدنکته ۱۴. بسیار مهم است که در مورد مسیرهای ایمن‌سازی گسترش توان AI تأمل کنیم. موضوع این است که باید فصل جداگانه‌ای در مورد موانع سخت‌افزاری مربوط به تأیید، اعتبارسنجی، امنیت و کنترل بگشاییم. این موضوع باید خصوصاً در مورد سیستم‌های تسلیحاتی تحت کنترل AI، لحاظ شود. بسیاری از محققان برجسته رباتیک و هوش مصنوعی، خواستار معاهده بین‌المللی برای ممنوعیت انواع تسلیحات خودمختار مبتنی بر هوش مصنوعی شده‌اند؛ این امکان وجود دارد تا این ماشین‌ها به ماشین‌های کامل‌عیار ترور تبدیل شوند. در عین حال، این نیز مهم است که با از دست رفتن قدرت دولت-ملت‌ها که تنها نهادهای مسؤول در روابط بین‌الملل هستند، چه بر سر اعتبار چهارچوب‌های حقوقی می‌آید.
▬ کلیدنکته ۱۵. هوش مصنوعی می‌تواند نظام‌های حقوقی ما را دقیق‌تر، کارآمدتر و عادلانه‌تر کند، البته اگر بتوانیم نحوه عملکردها را شفاف و قابل‌نظارت کنیم. قوانین ما برای هماهنگی با هوش مصنوعی، نیاز به بروزرسانی سریع دارند، تا موانع قاطعی در اطراف حریم خصوصی، مسؤولیت و عدالت ایجاد کند.
▬ کلیدنکته ۱۶. از مدت‌ها پیش، نگران آن بودیم که ماشین‌های هوشمند جایگزین ما در بازار کار شوند. این را نباید چیز بدی قلمداد کرد، مادامی که جامعه تدابیر مناسبی برای توزیع ثروتی که توسط AI ایجاد شده دارد. اگر این تدابیر اندیشیده نشود، بسیاری از اقتصاددانان معتقدند، نابرابری بسیار افزایش خواهد یافت.
▬ کلیدنکته ۱۷. با برنامه‌ریزی پیشرفته، یک جامعه با اشتغال کم باید قادر به شکوفایی نه تنها از نظر مالی باشد، بلکه به لحاظ اخلاقی و فرهنگی نیز باید برتری یابد؛ زیرا افراد، خودشکوفایی را از فعالیت‌هایی غیر از شغل دریافت خواهند کرد. این مسیر از طریق کاهش سن بازنشستگی، کاهش ساعات کار، محدود کردن کار غیرخویش‌فرما به جوانان و فراخواندن میان‌سالان به کارآفرینی در زمینه‌هایی که ماشین‌ها خوب عمل نمی‌کنند، و نهایتاً، گسترش یک برنامه تأمین اجتماعی وسیع، پیموده می‌شود. اخیراً سانا مارین، نخست‌وزیر فنلاند، هفته کاری را چهار روزه، و روز کاری را شش ساعته اعلام کرد. صرف‌نظر از انگیره و برنامه او، این برنامه، می‌تواند بر مبنای توزیع منابع حاصل از مالیات‌ستانی از صنایع بزرگ متکی بر فنّاوری برتر پشتیبانی شود.
▬ کلیدنکته ۱۸. توصیه شغلی برای بچه‌های امروز می‌تواند این باشد که گرایش تحصیلی و شغلی خود را به سمت حرفه‌هایی معطوف بدارند که ماشین‌ها در آن‌ها خوب عمل نمی‌کنند؛ مشاغلی که مستلزم تعاملات انسانی، و درگیر شدن در فرآیندهای خلاق و غیرقابل پیش‌بینی هستند.
▀█▄ پویایی‌شناسی ریخت سیاسی آینده
▬ کلیدنکته ۱۹. پیشرفت‌ها در زمینه ساخت AGI به عنوان یک سایبورگ، هموار و تدریجی نیست، بلکه اصولاً شامل جهش‌هایی خواهد بود که به آن، «انفجار اطلاعاتی» می‌گوییم. پس از هر جهش، این امکان وجود دارد که فرد یا افراد موفق به جهش، به طرزی ناپیمودنی از قدرتی متمایز نسبت به سایر انسان‌ها و ماشین‌ها دست یابند؛ مشروط بر آن که نهادهای انسانی تا آن هنگام نتوانند مانع از سلطه و تسلط آنان شوند.
▬ کلیدنکته ۲۰. اگر گروهی از انسان‌ها موفق به کنترل انفجار اطلاعاتی ناشی از برآمدن ورژن و نسخه برتری از AGIها شوند، ممکن است بتوانند طی چند سال، جهان را تحت کنترل بگیرند؛ و اگر انسان‌ها نتوانند «انفجار اطلاعاتی» حاصله را کنترل کنند، این امکان هست که ماشین و خود هوش مصنوعی این کنترل را به دست آورد.
▬ کلیدنکته ۲۱. در حالی که یک انفجار سریع اطلاعاتی، احتمالاً، منجر به یک قدرت جهانی واحد خواهد شد، این امکان هم هست، که قدرت به نحوی منتشر شده در اختیار هکرهایی قرار گیرد که سر و ریخت قدرت را چند قطبی با تعادل قدرت بین تعداد زیادی از موجودات نسبتاً مستقل تبدیل می‌کنند.
▬ کلیدنکته ۲۲. گرایش‌های سیاسی آینده در توازنی بین سلسله مراتب‌های بسیار پیچیده‌تری از «همکاری»، «رقابت» یا «کنترل» شکل می‌گیرد. آشکار است که نظارت‌های جهان‌شمول شکل می‌گیرند و مستمراً تقویت می‌شوند، اما، هنوز کاملاً مسجل نیست که به نابودی «حوزه شخصی» و «حوزه عمومی مستقل از قدرت»، منتهی می‌گردد یا خیر.
▀█▄ جمع‌بندی و نتیجه
▬ کلیدنکته ۲۳. اوج شتاب‌گیری روند فعلی ما به سمت هوش مصنوعی همه‌جانبه، ممکن است بهترین موهبت یا بدترین فاجعه‌ای باشد که برای بشریت اتفاق می‌افتد. ما علاوه بر آن‌که باید قویاً در مورد انواع سناریوهای آینده فکر کنیم، در عین حال، باید قویاً هم حاضر و فعال باشیم تا به روندهای آینده شکل دهیم. آن‌چه قطعی است این است که برای شکل‌دهی به روندهای آینده، هیچ تسلط غیر قابل فایق آمدنی وجود ندارد و همه چیز به نیروهای فعال بستگی دارد (این متن شامل برداشتهای آزادی بود از مکس تگمارک).
▀█▄ مراجعی برای مطالعه افزون
Tegmark, Max, Life 3.0: being human in the age of artificial intelligence, New York: Alfred A. Knopf, 2017.
António Damásio, Self Comes to Mind: Constructing the Conscious Brain (New York: Vintage, 2012).
Bernard Baars, In the Theater of Consciousness: The Workspace of the Mind (New York: Oxford University Press, 2001).
Christof Koch, The Quest for Consciousness: A Neurobiological Approach (New York: W. H. Freeman, 2004).
Daniel Dennett, Consciousness Explained (Back Bay Books, 1992).
Ellie Zolfagharifard, “Artificial Intelligence ‘Could Be the Worst Thing to Happen to Humanity,’ ” Daily Mail, May 2, 2014; http://tinyurl.com/hawkingbots.
Erik Brynjolfsson and Andrew McAfee, The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies (New York: Norton, 2014).
Gerald Edelman and Giulio Tononi, A Universe of Consciousness: How Matter Becomes Imagination (New York: Hachette, 2008).
Gideon Lewis-Kraus, “The Great A.I. Awakening,” New York Times Magazine (December 14, 2016), available online at http://www.nytimes.com/2016/12/14/magazine/the-great-ai-awakening.html.
Hans Moravec, “When Will Computer Hardware Match the Human Brain?” Journal of Evolution and Technology (1998), vol. 1.
Nick Bostrom, Allan Dafoe and Carrick Flynn, “Policy Desiderata in the Development of Machine Superintelligence” (2016), http://www.nickbostrom.com/papers/aipolicy.pdf.
Prigogine and Isabelle Stengers, Order Out of Chaos: Man’s New Dialogue with Nature (New York: Bantam, 1984).
Ray Kurzweil, How to Create a Mind, and subsequent data is computed from the references in https://en.wikipedia.org/wiki/FLOPS.
Stanislas Dehaene, Consciousness and the Brain: Deciphering How the Brain Codes Our Thoughts (New York: Viking, 2014).
Stanislas Dehaene, Lucie Charles, Jean-Rémi King and Sébastien Marti, “Toward a Computational Theory of Conscious Processing,” Current Opinion in Neurobiology 25 (2014): 760–784.
Stanislas Dehaene, Michel Kerszberg and Jean-Pierre Changeux, “A Neuronal Model of a Global Workspace in Effortful Cognitive Tasks,” Proceedings of the National Academy of Sciences 95 (1998): 14529–14534.
Steve Omohundro, “The Basic AI Drives,” Artificial General Intelligence 2008: Proceedings of the First AGI Conference, ed. Pei Wang, Ben Goertzel and Stan Franklin (Amsterdam: IOS, 2008), 483–492.
Volodymyr Mnih et al., “Human-Level Control Through Deep Reinforcement Learning,” Nature 518 (February 26, 2015): 529–533, available online at http://tinyurl.com/ataripaper.
Yuval Noah Harari, Homo Deus: A Brief History of Tomorrow (New York: HarperCollins, 2017).
“Google DeepMind’s Deep Q-learning Playing Atari Breakout”, on YouTube at https://tinyurl.com/atariai.
“Research Priorities for Robust and Beneficial Artificial Intelligence,” can be found at http://futureoflife.org/ai-open-letter/.
“The AI Revolution: Our Immortality or Extinction?” Wait But Why (January 27, 2015), at http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html.
مأخذ:مرکز ملی فضای مجازی
هو العلیم
