ویتالیک بوترین در مورد خطرات هوش مصنوعی کنترل نشده هشدار می‌دهد

ویتالیک بوترین، یکی از بنیان‌گذاران اتریوم، نگرانی‌های خود را در مورد پیشرفت بی‌نظیر هوش مصنوعی فوق پیشرفته (AI) مطرح کرده و می‌گوید که AI به طور احتمالی می‌تواند گونه غالب بعدی روی زمین باشد.

او تأکید کرده که این نتیجه تا حد زیادی به نحوه انتخاب انسان برای مداخله در توسعه هوش مصنوعی بستگی دارد.

در یک پست وبلاگی، مورخ ۲۷ نوامبر، بوترین که به دلیل نفوذش در فضای ارزهای دیجیتال شناخته می‌شود، استدلال کرده که هوش مصنوعی اساساً با اختراعات قبلی مانند رسانه‌های اجتماعی، هواپیما یا ماشین چاپ متفاوت است.

هوش مصنوعی توانایی ایجاد شکل جدیدی از اطلاعات را دارد که می‌تواند منافع انسان را تهدید کند.

بوترین اظهار داشت:

هوش مصنوعی نوع جدیدی از ذهن است که هوش آن به‌سرعت پیشرفت می‌کند و این یک خطر بزرگ برای سبقت گرفتن از قوای ذهنی انسان‌ها و تبدیل‌ شدن به گونه‌های برتر در این سیاره است.

یکی از نگرانی‌های اصلی بوترین این است که هوش مصنوعی فوق‌ پیشرفته اگر کنترل نشود می‌تواند به طور احتمالی منجر به انقراض بشریت شود، به‌خصوص اگر انسان را تهدیدی برای بقای خود بداند.

بوترین به نظرسنجی آگوست ۲۰۲۲ بیش از ۴۲۷۰ پژوهشگر یادگیری ماشین اشاره کرده که آنها احتمال آسیب رساندن هوش مصنوعی به بشریت را ۵ تا ۱۰ درصد تخمین زدند.

علی‌رغم ماهیت جدی این ادعاها، بوترین معتقد است راه‌هایی برای انسان‌ها وجود دارد که کنترل هوش مصنوعی را به دست بگیرند.

او ادغام رابط‌های مغز و کامپیوتر (BCI) را به‌عنوان وسیله‌ای برای نفوذ بیشتر انسان‌ها بر محاسبات و شناخت مبتنی بر هوش مصنوعی پیشنهاد کرده است.

BCIها یک مسیر ارتباطی بین فعالیت الکتریکی مغز و دستگاه‌های خارجی مانند کامپیوترها یا اندام‌های مصنوعی و رباتیک ایجاد می‌کنند.

این کار می‌تواند به طور قابل‌توجهی تأخیر ارتباطی بین انسان و ماشین را کاهش می‌دهد و تضمین می‌کند که انسان‌ها سطحی از «عملیات معنادار» را در تصمیم‌گیری‌های مبتنی بر هوش مصنوعی حفظ خواهند کرد.

با ادغام BCI، انسان‌ها می‌توانند به طور فعال در هر تصمیمی که توسط سیستم‌های هوش مصنوعی گرفته می‌شود مشارکت کنند و انگیزهٔ AI را برای انجام اقدامات مستقلی که ممکن است با ارزش‌های انسانی همخوانی نداشته باشند کاهش دهند.

بوترین بر اهمیت «نیت پاک انسان» در هدایت هوش مصنوعی به سمت نتایجی که به‌جای صرفاً تمرکز بر سود، به نفع بشریت است، تأکید می‌کند.

بوترین در پایان به پیشرفت چشمگیر فناوری بشر در طول تاریخ اشاره کرده و ابراز امیدواری می‌کند که انسان‌ها به‌عنوان درخشان‌ترین ستاره در کهکشان، بتوانند به استفاده از فناوری برای گسترش ظرفیت‌های خود ادامه دهند.

او پیش‌بینی کرده که نوآوری‌های انسانی مانند سفر به فضا و جغرافیای مهندسی نقش مهمی در شکل‌دهی آینده زندگی روی زمین و فراتر از آن برای سال‌های آینده داشته باشند.