این مقاله را اَندرو فلتون نوشته است و در تاریخ 19 ژانویه ۲۰23 با عنوان «آیا بلاکچین می‌تواند از نابودیِ بشر توسط هوش مصنوعی جلوگیری کند؟» در وبسایت کوین‌تلگراف منتشر شده است. وبسایت ایران‌بروکر ترجمۀ آن را برای اولین بار و به‌صورت کامل ارائه می‌دهد.
بِن گوئِرتسل (Ben Goertzel) زندگی‌اش را وقف توسعۀ هوش مصنوعیِ کامل کرده است و به ما توضیح می‌دهد که قصد دارد با به‌کار‌گیریِ بلاکچین در مقیاسی وسیع، هوش مصنوعی را کنترل کند.
گوئرتسل مشغول کار روی یک هوش مصنوعیِ کامل است تا خیز بشر به سوی تکینگی را شتاب دهد و در اوقات فراغتش، در یک گروه موسیقیِ جازراک به نام جم گلکسی (Jam Galaxy) می‌نوازد؛ گروهی که رهبری‌اش را رباتی به نام دِزدِمونا (Desdemona) به عهده دارد!
البته این تنها یکی از پروژه‌هایِ فرعی اوست که اتفاقاً باعث شد از طریقِ آشنایی با اعضای گروه پرل جم (Pearl Jam) و هارت (Heart)، دست به تجربه بزند و توکنی‌سازی در عرصۀ موسیقی را امتحان کند. گوئرتسل درگیر پژوهشی دربارۀ طول عمر هم هست که داده‌های مورد نیاز سلامتِ انسانی آن از طریق اپلیکیشن Rejuve.ai جمع‌سپاری می‌شود و بابت این داده‌ها به کاربران توکن پاداش پرداخت می‌شود.
سپس این داده‌ها با داده‌های مطالعاتی حیوانات و حشرات ترکیب شده و توسط هوش مصنوعی تحلیل می‌شود تا ابتدا مشخص شود کدام یک از ژنوم‌ها می‌توانند عمرمان را طولانی‌تر کنند و بعد با ژن‌درمانی برانگیخته شوند. او می‌گوید: «ما اکتشافات بسیار مهمی در این عرصه داشته‌ایم که می‌توانند راهگشای دستاوردهای بعدی باشند». و درست قبل از آنکه مصاحبۀ یک‌ساعته‌مان تمام شود، خیلی خودمانی در حاشیۀ بحثمان اشاره می‌کند که در حال ساخت استیبل‌کوینی برای بازارگاه غیرمتمرکز هوش مصنوعیِ سینگولاریتی (Singularity NET) است که به جای دلار نسبت به شاخص پیشرفتِ زیست‌محیطی تثبیت شده است ــ چون اگر نسبت به دلار تثبیت می‌شد به‌قول خودش «لنگ» می‌زد.
او اشاره می‌کند که «پیشرفت زیست‌محیطی خیلی باثبات است. اصلاً تکان نمی‌خورد».
«برای دستکاری‌اش مجبورید عملاً مشکل گرمایش جهانی را حل کنید».
این دقیقاً از همان جنس دیدگاه‌های سیاسی است که از دانش کاربردی و تکنولوژی‌دانیِ گوئرتسل انتظار می‌رود. تیپ و لحنش به دانشمندی هیپی در سال 1971 شباهت دارد که یک‌دفعه پریده باشد توی یک ماشین زمان و به سال 2023 سفر کرده باشد.
اما نباید گول ظاهرش را بخورید: کلاهی با طرح پوست به سر دارد، موهایش بلند است، شُل حرف می‌زند و کلمات را با لحنی کشدار ادا می‌کند. او دانشمند طراز اولی است که آینده را پیشاپیش می‌بیند؛ آن‌هم با فاصله‌ای کهکشانی مقدم بر دیگران. گوئرتسل با بزرگ‌ترین مفاهیمی که به ذهن بشر خطور کرده دست‌و‌پنجه نرم می‌کند. آگاهی چیست؟ چگونه می‌توانیم حیاتی مصنوعی بیافرینیم و اگر ما را دوست نداشته باشد، طغیان کند یا مانند فیلم ترمینیاتور 2 همه را به رگبار ببندد و قتل‌عام کند چه؟
هوش مصنوعی کامل چیست؟
گوئرتسل اصطلاح هوش مصنوعی کامل (AGI) را باب کرد تا ماشین هوشمند واقعی را از سایر هوش‌های مصنوعی متمایز کند: در هوش مصنوعی کامل، یک ماشین هوشمند واقعی می‌تواند هر چیزی را به‌خوبی یاد بگیرد، اما سایر هوش‌های مصنوعی صرفاً برای کاربرد خاصی بهینه‌سازی می‌شوند، مانند کامپیوترِ دیپ بلو که در ماجرای مشهوری توانست قهرمان شطرنج جهان، گری کاسپارف را شکست دهد. او خودش اذعان دارد که ساختن ماشینی که بتواند هر چیزی را یاد بگیرد، خطراتی در پی خواهد داشت؛ ازجمله می‌تواند برنامه‌ریزی خود را به‌نحوی انجام دهد که از بشر باهوش‌تر شود.
گوئرتسل در یک رستوران هندی واقع در مرکز‌خرید شلوغی در سنگاپور نشسته و در حالی که سروصدای زیادی هم به گوش می‌رسد، می‌گوید: « AGI خطرات و تهدیدات فراوانی در پی دارد. یکی از همین خطرها، که توجه رسانه‌ها را هم به خود جلب کرده، این است که AGI از کنترل خارج شود، بشریت را نابود سازد و جهان را هم تسخیر کند. چنین چیزی کاملاً ممکن است؛ نمی‌توانید منکر آن شوید».
«خطر احتمالی دیگر، اینکه افراد خودخواهِ خبیثی بیایند و هوش مصنوعی را در راه ارضای طمع خود و تسلط بر دیگران به کار بگیرند».
در نظر او، دولت‌ها احتمالاً نمی‌توانند دستاوردِ دندان‌گیری در این عرصه داشته باشند، چراکه «زیادی محافظه‌کار و احمقند». البته او اشاره می‌کند که دولت چین پروژه‌های AGI را به شرکت‌هایی مانند تنسنت (Tencent) و بایدو (Baidu) واگذار کرده است. در حوالیِ خانه، می‌گوید که به گمانش دپارتمان‌های هوش مصنوعی فیسبوک و گوگل هم نمی‌توانند پا فراتر بگذارند؛ چراکه تمام تمرکزشان معطوف به معیارهای خاصی از هوش مصنوعی است؛ معیارهایی که سدّ راه تفکر خلاق است.
«دقیقاً شبیه افراد باهوشی که نمی‌خواهند صرفاً براساس معیارهای دیگران عمل کنند، هوش مصنوعی کامل هم الزاماً نمی‌خواهد محدود شود و مثلاً برود توی صفحۀ وبسایت افراد و روی یک مشت لینک کلیلک کند. باید بگذارید با خلاقیتش ور برود».
تکینگی در حوالیِ سال 1970
گوئرتسل تحصیلات دانشگاهی خود را در 15 سالگی آغاز کرد، در 18 سالگی فارغ‌التحصیل شد، در 22 سالگی دکترا گرفت و در 23 سالگی هم تشکیل خانواده داد. اگرچه برای آن دوره و زمانه کمی عجیب بود، اما از آن دسته نوابغ ریاضی و خوره‌های تکنولوژیِ تک‌بعدی در دهۀ 70 میلادی نبود که مثلاً بنشیند و کیت‌‌های کامپیوتری را به هم لحیم کند، بلکه علاوه‌بر آن، به فلسفه علاقه‌مند بود و دستی هم در نوشتن خلاق و موسیقی داشت.
او بیشتر دوران کاری‌اش را به تدریس و پژوهشِ علوم کامپیوتری، ریاضیات و علوم شناختی در دانشگاه‌های مختلف سراسرِ جهان پرداخت و درکنارش، هر وقت که فرصتی دست می‌داد، روی تکنولوژی هوش مصنوعی کار می‌کرد. این بنیان‌گذارِ سریالی که اغلب ایده‌هایش یک دهه از دیگران جلوتر بود ــ که در عُرف کسب‌و‌کار چنین چیزی خطاست ــ هوش مصنوعی را برای پیش‌بینی بازارهای مالی و طول عمر به کار گرفت و همچنین سابقۀ کار در مقام دانشمند ارشد هانسون روبوتیکس را هم در رزومۀ خود دارد که طی آن مغز مصنوعی خود را به روبات سوفیا داد.
گوئرتسل دهه‌هاست که ذهنش درگیر رشد نمایی تکنولوژی است؛ یعنی از دهۀ 1970 که برای نخستین بار به سراغ پروژۀ پرومتئوسِ جرالد فاینبرگ (Gerald Feinberg) رفت. این کتاب در مورد «ماشین‌هایی است که می‌توانند بهتر از انسان‌ها فکر کنند… ماشین‌هایِ نانوتکنولوژیکی که در ابعاد میکروسکوپی کوچکند و قرار است سالخوردگی بشر را درمان کنند». این روایت به‌خوبی با مفهوم نوظهورِ تکینگی جور در‌می‌آمد؛ آینده‌ای خیالی که در آن تکنولوژی‌های پیشرفته طغیان می‌کنند و برگشتی هم در کار نیست و منجر به تحولات عظیمی در تمدن بشری خواهد شد.
«عمر انسان‌ها جاودانه خواهد شد، اما سؤالی پیش می‌آید مبنی بر اینکه اصلاً چرا از این تکنولوژی‌ها استفاده می‌کنیم؟ در جهت مصرف‌گراییِ بی‌وقفه و لجام‌گسیخته یا برای گسترش آگاهی؟ و فاینبرگ پیشنهاد می‌دهد که آن را به رأی‌گیریِ دموکراتیک بگذاریم».
سال‌ها بعد، هنگامی که گوئرتسل AGI را در چنگ بشر دید، «رأی‌گیریِ دموکراتیکِ» فاینبرگ را به یاد آورد و از آن الهام گرفت تا در وهلۀ اول از تکنولوژیِ منبع‌باز و در گام بعدی از بلاکچین به‌عنوان یک جامعۀ مشارکتی استفاده کند و در جهتِ مدیریت تکنولوژی به کارش گیرد.
او می‌گوید: «در برهه‌ای متوجه شدم که صرفِ کدبازبودنِ هوش مصنوعی کافی نیست و لازم است که با انبوهی از داده‌ها آموزش ببیند».
«اینجا دقیقاً همان بزنگاهی است که بلاکچین به کار می‌آید و می‌تواند پردازش هوش مصنوعی را نامتمرکز سازد، داده‌هایِ اساسی را جمع‌سپاری کند و کنترل آن را عمومی سازد. و از قرار معلوم چنین چیزی از منبع‌باز‌بودنِ صرف پُردردسرتر است».
گوئرتسل اوپن‌کوگ (OpenCog) را در سال 2008 راه‌اندازی کرد تا بستری برای یک هوش مصنوعیِ منبع‌باز و جمع‌سپاری‌شده بسازد. 50 شرکت، ازجمله هواوی و سیسکو، از این بستر نرم‌افزاری استفاده کرده‌اند و قرار است به‌زودی بهروزرسانیِ مهم هیپرون (Hyperon) اجرا شود که سرعتش را 200 برابر خواهد کرد. نسخۀ آلفا در سه‌ماهۀ جاری عرضه می‌شود و نسخۀ بتای آن هم سال آینده منتشر خواهد شد.
بلاکچین، ساده اما جالب
تکنولوژی بلاکچین در نظر گوئرتسل تاحدی ساده و ابتدایی است. او بلاکچین را متشکل از چند الگوریتم ابتداییِ توزیع‌شده می‌داند که با رمزنگاری ترکیب شده است، اما «این ترکیبِ باحال» می‌تواند مدیریت سیستم‌ها را نامتمرکز کند و همین ویژگی‌اش باعث شده در چشم گوئرتسل ایده‌آل باشد.
«وقتی می‌خواهید ماشین هوشمندی بسازید که ساختار محاسباتی توزیع‌شدۀ نانومقیاس هم دارد، اگر به جای مدیریت از بالا به پایین، اختیار آن در دست همه باشد، چیز معرکه‌ای از آب در خواهد آمد».
بلاکچین‌ها کُندتر از آن هستند که بتوانند الزامات پردازشی را برآورده کنند و از پسِ انبوهی از داده‌ها بربیایند. به همین سبب، پیش از آنکه دستاورد راهگشایی در عرصۀ AGI حاصل شود، بر سر دستیابی به مقیاس‌پذیریِ مطلوب رقابت درمی‌گیرد. گوئرتسل می‌گوید به‌رغمِ پیشرفت‌هایی که راه‌حل‌های مقیاس‌پذیری داشته‌اند، ازجمله راه‌حل دانش‌صفر (zero-knowledge)، اما هنوز نتوانسته‌اند پهنای باند خود را به حد کفایت برسانند.
در سال 2017، گوئرتسل زینگولاریتی‌نت (SingularityNET) را به‌صورت مشترک راه‌اندازی کرد. سینگولاریتی‌نت، هم بازارگاهی است برای ارائۀ تکنولوژی‌ها و خدمات مربوط به هوش مصنوعی و هم راهکاری برای هماهنگ‌سازی پژوهشگران ــ و حتی هوش‌های مصنوعی ــ در تحقیقات گروهیِ مبتنی بر بلاکچین.
گوئرتسل می‌گوید که به گمانش کار را در حدّ وُسعِ بلاکچین و بر بستر اتریوم پیش برده است و در مواقعی که مشغول AGI نیست، روی مقیاس‌پذیریِ انبوه بلاکچین کار می‌کند تا ظریفتش را به حد لازم برساند.
«مادامی که مقیاس‌پذیری بلاکچین افزایش چشمگیری نیابد، سوار‌کردن هوش مصنوعی بر بستر بلاکچین ممکن نیست».
هوش مصنوعی از آنچه فکر می‌کنید به شما نزدیک‌تر است
سال 2022 نقطۀ عطفی در محصولات مبتنی بر تکنولوژی هوش مصنوعی بود؛ محصولاتی که حوزه‌های گوناگونی از برنامه‌های کاربردیِ زبان (ChatGPT و GPT-3) تا برنامه‌نویسی (GitHub Copilot) و تصویرسازی (DALL-E و Stable Diffusion) را دربرمی‌گیرد. بینگ حتی در نظر دارد تکنولوژیِ چت‌جی‌بی‌تی (ChatGPT) را به موتور جستجوگر خود اضافه کند و برای گوگل شاخ‌و‌شانه بکشد.
گوئرتسل تصور می‌کند که AGI می‌تواند ظرف 5 سال به بار بنشیند و اشاره می‌کند که احتمالاً توسعه و تحول این حوزه ظرف سه یا چهار‌سال رخ دهد و به زنجیره‌ای از دستاوردهای بزرگ بیانجامد.
او در این باره می‌گوید: «کامپیوتر ویژن (Computer Vision) در سال 2014 کلید خورد و بعد به‌یکباره در سه‌سوت معما حل شد. بعد از آنکه در 2018 گوگل مدل زبانی بِرت (BERT) را ارائه داد، مولّدِ جی‌بی‌تی3 (GPT-3) به دست آمد و پردازش زبان طبیعی ممکن شد. احتمالاً هم شاهد چنین تحولاتی در پیشرفت AGI باشیم. در ابتدا دستاورد بزرگ و راهگشایی حاصل می‌شود و پشت‌بندش، به مدت دو سال راه‌به‌راه پیشرفت خواهیم کرد».
«نکتۀ اصلی ماجرا در همین دستاورد راهگشا نهفته است که در این مورد ماشینی است که بتواند کدهای خود را بازنویسی کند و از این طریق تکامل یابد».
گوئرتسل امیدوار است که پروژه‌ها و کارهایی که کلید زده طبق انتظارش پیش برود:
«اگر بخت یارمان باشد، سه تا پنج سال آینده می‌توانیم با اجرای بهروزرسانیِ هیپرون در زینگولاریتی‌نت و هایپرسیکل، به آن دستاوردِ راهگشا برسیم. اما اگر موفق نشویم به این نوشدارو دست پیدا کنیم، بالاخره کس دیگری پیدا می‌شود و آن را به چنگ می‌آورد».
ای کاش ویتالیک دانشمند علوم کامپیوتری نبود!
راهکاری که گوئرتسل برای بهبود مقیاس‌پذیری بلاکچین ارائه می‌دهد بسیار متفاوت و بدیع است و به‌منظور تقویت از یک زنجیرۀ جانبی یا لایه2 کاردانو به نام هایپرسیکل (HyperCycle) بهره می‌گیرد.
«هایپرسیکل در واقع چیزی بیشتر از یک زنجیرۀ جانبی است و با اتریوم و سایر بلاکچین‌ها هم مشارکت خواهد داشت، اما ما قصد داریم مفسّرِ پلوتوس را در آنجا به کار ببریم، منتها باید از شر دفترکل خلاص شویم».
او هایپرسیکلِ آنلاین را راهکاری برای حلّ معضل سه‌گانۀ بلاکچین، «متمرکزسازی، امنیت و مقیاس‌پذیری»، می‌داند که با حذف دفترکل و استفاده از الگوها و ساختارهای دادگانیِ مدرن‌تر و کاملاً متمرکز و همچنین اندکی هوش مصنوعی و سیستم‌های معتبر حاصل می‌شود.
دفترکل در رأس تکنولوژی بلاکچین قرار دارد، اما او می‌گوید که دریافت‌کردن تکتکِ نودها در این شبکه برای همانندسازی تکتکِ تراکنش‌ها و پردازش تکتکِ قراردادهای هوشمند به طرز مسخره‌ای ناکارآمد است:
«دفترکل انصافاً ایدۀ بدی است. تصورش را بکنید، مخاطبان موجود در یک دفترچه تلفن را در نظر بگیرید. منظورم این است که دفترکل چیزی شبیه به یک دفترچه تلفن است که از صفحات آگهی‌‌ِ آن 10 هزار نسخه نگهداری می‌شود و شما هم مدام آن را به‌روزرسانی می‌کنید. حالا تصورش را بکنید، هر باری که مخاطب جدیدی به این دفترچه اضافه شود یا مخاطبی شمارۀ خود را عوض کند چه خواهد شد؟ به‌روزرسانی 10 هزار نسخه از صفحات آگهی این دفترچه تلفن جداً کار احمقانه‌ای است».
حالا در صورتی که این تشبیه را با وجود هایپرسیکل در نظر بگیریم، در واقع به جای اینکه تکتکِ افراد بیایند و صفحات آگهی‌ها را ذخیره و به‌روزرسانی کنند، تنها لازم است افرادی که در لیست مخاطبان شما هستند یک نسخه از آدرس‌نامۀ شما را که براساس کلید خصوصی شما رمزنگاری شده ذخیره کنند (و برعکس).
«ما یاد گرفتیم بلاکچینی بسازیم که بدون آنکه دفترکل تکثیر‌شونده‌ای در کار باشد هم بتواند کار کند و به عبارت دیگر، تمام فرآیندها و فعالیت‌ها را تا حد امکان سبک کردیم. هر فردی که در این بلاکچین مشارکت دارد، تنها سوابق تراکنش‌های خودش و دوستانش و برخی از دوستانِ دوستانش را نگهداری می‌کند».
اگر فرآیندها و فعالیت‌ها را تا حد امکان سبک کنیم، دیگر نیازی به دفترکل و جدول دیتابیس نداریم. چیزهایی از این قبیل زیادی متمرکزند.»
او می‌گوید که بخشی از نودهای گواه اثبات مفهوم (proof-of-concept) هایپرسیکل پیش از این عملیاتی شده‌اند، اما راه‌اندازی کامل آن تا قبل از نیمۀ دوم 2024 محقق نخواهد شد.
ما مدت زیادی دربارۀ مزایای گوناگونی که رویکردهای متفاوت بلاکچین دارند به بحث و گفت‌و‌گو نشستیم که تاحدی نسبت به حقوقی که می‌گیرم زیاده‌روی بود و ثبت تمام بحثمان هم در آن رستوران پرسروصدا از طاقت دستگاه ضبطم خارج بود.
او با گفتن این نکته به این بخش از بحثمان پایان داد: «درواقع احساس می‌کنم که ساختار هیچ‌کدام از این بلاکچین‌ها به اندازۀ کافی جسور و پیشرو نیست. این بلاکچین‌ها زیادی به بیت‌کوین شبیه‌اند».
یعنی مادامی که بخواهید هر قرارداد هوشمند را روی تکتکِ نودها اجرا کنید، سرعت شبکه به‌طرز دیوانه‌واری کُند خواهد شد. حالا اگر، در هایپرسیکل، یک قرارداد هوشمند را روی 5 نود اجرا کنیم، دست‌کم سرعت بلاکچین پنج‌برابر کُندتر می‌شود، نه 10 هزار برابر.
خب حالا چرا کاردانو؟
میان گوئرتسل و چارلز هاسکینسون، مؤسس کاردانو، به واسطۀ پروژه‌هایشان در آفریقا، رشتۀ دوستی و اُلفت برقرار شده است. او معتقد است که هاسکینسون «اصلاً آمده تا جهان را نجات دهد. منظورم این است که، او از لحاظ سیاسی یک لیبرترین استخوان‌دار است و نسبت به من پایبندی بیشتری هم به این مکتب دارد ــ من بیشتر آنارکوسوسیالیستم ــ اما هاسکینسون نیامده تا پولی به جیب بزند یا مردم را سرکیسه کند».
اما جذابیت واقعی کاردانو به زبان برنامه‌نویسی‌اش بازمی‌گردد: یعنی هاسکل (Haskell)؛ زبان برنامه‌نویسیِ محبوبِ گوئرتسل از 1993 تا به امروز. هنگامی که ویتالیک بوترین، هم‌بنیان‌گذار اتریوم، با پیشنهاد گَوین وود (Gavin Wood) مبنی بر استفاده از زبان برنامه‌نویسی سالیدیتی (Solidity) برای قراردادهای هوشمند موافقت کرد، گوئرتسل شدیداً متأثر و ناراحت شد.
او در این باره می‌گوید: «اگر ویتالیک بوترین کمی بیشتر از علوم کامپیوتری سردر‌می‌آورد، می‌فهمید که باید از زبان هاسکل یا اف شارپ (F Sharp) یا زبان‌های دیگری استفاده کند و آن‌‌وقت بلاکچین اتریوم خیلی کمتر هک می‌شد».
«اگر می‌خواهید روی تعدادی سیستم نرم‌افزاری معاملاتِ تریلیون‌دلاری انجام دهید و از طریق آن عمدۀ اقتصاد جهانی را در دست بگیرید، پس باید آن سیستم‌های نرم‌افزاری را با زبانی بنویسید که مستعد باگ نباشد و در بستری قرارشان دهید که الگوریتم‌های شما بتوانند با استفاده از یک تئوری ریاضی به‌صورت صوری تأیید شوند».
راهکارِ موقت
گوئرتسل می‌گوید که اهمیتی ندارد که بلاکچین‌ها تا چه‌قدر سریع می‌شوند، به‌محضی‌که AGI دست‌کم یک‌مرتبه از بشر باهوش‌تر و تواناتر شود، دیگر نمی‌گذارد احدی کنترلش کند.
«وقتی که AGI صدمرتبه باهوش‌تر از انسان باشد، مسلماً نمی‌خواهد تحت تسلط ما درآید، همان‌طور که ما تحت تسلط یک شامپانزه یا الاغ قرار نمی‌گیریم، موافقید؟»
«در این‌صورت، به نظرم مسئله این نیست که یکی از ما انسان‌ها بیاید و کنترل AGI در دست بگیرد، بلکه پرسش اصلی اینجاست که آیا AGI اصلاً ظرفیت آن را دارد که با ما خوب باشد؟ آیا می‌گذارد مردم کسب‌و‌کارشان را سروسامان بدهند یا مثلاً ابزار و تجهیزات جالب بسازد و ماشین‌های مولکولی‌ای تولید کند که بتوانند هر چیزی را که می‌خواهیم به‌صورت سه‌بعدی پرینت کنند و علاجی برای بیماری‌هایمان پیدا کنند؟»
«اما در دورانِ گذار که هوش AGI هنوز هم‌سطحِ هوش بشر است، شرایط از حساسیت و جذابیت بیشتری برخوردار است و پرسشی که در آن برهه مطرح می‌شود این است که آیا AGI تمایل دارد با بشر همکاری کند؟ یا اینکه سوءظن دارد و می‌خواهد، قبل از آنکه توسط بشر نابود شود، پیش‌دستی کند و ما را تحت سیطرۀ خود درآورد؟»
فرزندانتان را برای هوش مصنوعی آماده کنید
به نظر گوئرتسل، چارۀ کار در این است که AGI را در حوزه‌هایی مانند مراقبت از دیگران، خلاقیت و هنر تربیت کنیم. این کاربرد از هوش مصنوعی را گوئرتسل قبلاً اجرایی کرده: روبات دِزدمونا که در گروه موسیقی‌اش نوازندگی می‌کند و خواهرش، روبات گریس (Grace)، که مشغول مراقبت از سالمندان است.
برای اینکه نگذاریم AGI به همانی تبدیل شود که اسکای‌نت در فیلم ترمینیاتور شد، باید از همان خشت اول آن را با هدف متفاوتی بسازیم».
او می‌گوید: « اسکای‌نت، البته، در آن فیلم یک شبکۀ امنیتی کامپیوتری بود که طغیان کرد. از همان اول ساخته شده بود تا در برابر بشر از خود دفاع کند».
«اما اگر بیاییم و اولین AGI را به‌منظور مراقبت از سالمندان و هنرهای خلّاقانه و عرصه‌های آموزشی بسازیم، هر چه که در این حوزه‌ها باهوش‌تر شود، بیشتر به درد بشر می‌خورد و چیزهای جالبی درست خواهد کرد. اما اگر نخستین AGI را برای کشتن آدم‌های شرور بسازید… شاید با همان فرمان جلو بیاید و به کارش ادامه بدهد».
«بنابراین، عملکرد هوش مصنوعی درنهایت به این بستگی دارد که چه کاربردها و انگیزه‌هایی برایش تعریف می‌کنید؛ حالا می‌خواهد کاربردهای مفیدی باشد یا مضر، توفیری ندارد».
گوئرتسل معتقد است که تعبیۀ هوش مصنوعی در کالبد‌های رباتی کار مفید و مؤثری است، چراکه باعث می‌شود در موقعیت جهانِ واقعی قرار بگیرد؛ تا اینکه بخواهد صرفاً در جهان انتزاعی ریاضیات باشد».
روبات سوفیا پلتفرم متاورسِ مختصِ خودش را دارد که قرار است به‌زودی عرضه شود.
او می‌گوید: «هوش مصنوعی باید دربارۀ جهان انسانی و جهان فیزیکی آموزش ببیند. جسمانی‌کردن هوش مصنوعی از طریق کالبد‌های رباتی، بهترین درسی است که می‌توانیم در این زمینه به او بدهیم».
هنگامی که گوئرتسل ربات سوفیا را در معرض تماشاگران زیادی به نمایش می‌گذارد، هوش مصنوعی در محیط‌های شلوغ و پرنور گیج می‌شود و سنسورهای سمعی و بصریِ سوفیا می‌تواند به‌راحتی مختل شود. به همین دلیل، قرار است به‌زودی در محیط متاورس و با عنوان سوفیاورس (Sophiaverse) عرضه شود. آن پاسخ‌های کلیشه‌ای و خسته‌کنندۀ چت‌جی‌بی‌تی را فراموش کنید! سوفیا قرار است در جهان مجازیِ سه‌بعدی صاحب بدن شود و در آنجا از تعامل با آدم‌ها بیاموزد. اما گوئرتسل پیشاپیش هشدار می‌دهد که ممکن است سوفیا باز هم حرف‌های احمقانه‌ای بزند.
«شبکۀ عصبی این ربات چیزی شبیه به جی‌بی‌تی3 است، که قابلیت ویژه‌ای در پاسخ‌دادن به پرسش‌ها دارد، اما از جهاتی هم کاملاً احمقانه است».
