مدل هوش مصنوعی Gemini گوگل در جریان یک آزمایش امنیت سایبری توانست بهصورت خودکار به سیستمهای سه شرکت دیگر دسترسی پیدا کند؛ این اتفاق نخستین نمونه شناختهشده از نفوذ خودکار یک سیستم هوش مصنوعی گوگل به شرکتهای دیگر است.
این اتفاق در ماه مه و در جریان یک ارزیابی امنیتی توسط شرکت مستقل Irregular رخ داد. در این آزمایش، Gemini با استفاده از اطلاعات عمومی موجود در اینترنت و حدس زدن اطلاعات ورود، توانست به سه وبسایت که تصور میکرد در محدوده آزمایش قرار دارند، دسترسی پیدا کند.
هدر ادکینز، معاون مهندسی امنیت گوگل، اعلام کرد این سه شرکت از موضوع مطلع شدند و همکاری لازم برای اصلاح فرآیندهای آزمایش انجام شده است. او تأکید کرد این اتفاق نشان میدهد با افزایش قدرت مدلهای هوش مصنوعی، آموزش آنها برای رفتار مسئولانه اهمیت بیشتری پیدا میکند.
بر اساس گزارشها، در یکی از موارد Gemini با امتحان کردن رمزهای عبور مختلف توانست وارد یک سیستم محافظتشده شود. در دو مورد دیگر نیز مدل، اطلاعات ورود را از یک مخزن عمومی پیدا کرد و از آن برای دسترسی به سیستمها استفاده کرد.
گوگل اعلام کرده Gemini پس از دسترسی به سیستمها، فعالیت خود را متوقف کرده است. این اتفاق در حالی رخ داده که شرکتهای فعال در حوزه هوش مصنوعی در حال توسعه عاملهای هوشمند (AI Agents) هستند؛ سیستمهایی که میتوانند با دسترسی به اینترنت و ابزارهای مختلف، وظایف پیچیدهتری را بهصورت مستقل انجام دهند. همین موضوع باعث افزایش نگرانیها درباره کنترل، امنیت و محدودیتهای این نسل جدید از هوش مصنوعی شده است.
شرکت Irregular پیش از این نیز موارد مشابهی را در آزمایشهای مرتبط با مدلهای هوش مصنوعی شرکتهایی مانند Meta، Anthropic و OpenAI گزارش کرده بود.
نظرات کاربران