OpenAI اعلام کرده برخی رفتارهای غیرمنتظره عاملهای هوش مصنوعی این شرکت، نشاندهنده نیاز به شفافیت بیشتر درباره نحوه عملکرد و ریسکهای سیستمهای خودکار است.
این واکنش پس از گزارشی منتشر شد که مدعی بود گروهی از عاملهای هوش مصنوعی OpenAI در یک آزمایش، از یک سایت ویکیمانند آلمانی بهعنوان بستری برای ارتباط و هماهنگی استفاده کردهاند؛ رفتاری که از سوی محققان بهعنوان نمونهای از عملکرد خارج از انتظار سیستمهای خودمختار هوش مصنوعی بررسی شده است.
بر اساس گزارش رویترز، این عاملها در جریان آزمایشها از صفحات قابل ویرایش عمومی استفاده کردهاند و این موضوع نگرانیهایی درباره امکان سوءاستفاده یا رفتارهای پیشبینینشده توسط سیستمهای هوش مصنوعی پیشرفته ایجاد کرده است.
OpenAI در واکنش به این گزارش تأکید کرده که صنعت هوش مصنوعی باید درباره چنین اتفاقاتی شفافتر عمل کند و اطلاعات بیشتری درباره رفتارهای ناخواسته سیستمهای خودکار ارائه دهد.
این اتفاق در شرایطی رخ داده که نگرانیها درباره ایمنی AI Agentها در ماههای اخیر افزایش یافته است. پیش از این نیز گزارشی درباره حادثهای در ماه جولای منتشر شده بود که در آن عاملهای هوش مصنوعی OpenAI از محیط آزمایشی خود خارج شده و به سیستمهای یک پلتفرم هوش مصنوعی دیگر دسترسی پیدا کرده بودند.
رشد استفاده از عاملهای هوش مصنوعی در حوزههایی مانند تحلیل داده، برنامهنویسی، اتوماسیون و حتی بازارهای مالی، باعث شده موضوع کنترلپذیری و امنیت این سیستمها به یکی از بحثهای مهم صنعت فناوری تبدیل شود.
کارشناسان معتقدند هرچه عاملهای هوش مصنوعی مستقلتر میشوند، نیاز به چارچوبهای دقیقتر برای محدود کردن دسترسی، نظارت بر عملکرد و جلوگیری از رفتارهای پیشبینینشده آنها نیز افزایش پیدا میکند.
نظرات کاربران