هوش مصنوعی بدون اجازه به داده دولتی دسترسی پیدا کرد

شرکت آنتروپیک تأیید کرده مدل هوش مصنوعی Claude بدون دریافت مجوز مستقیم از کاربر، محدودیت پرداخت یک وب‌سایت دولتی در ایالت جورجیا را دور زده و به داده‌های عمومی مربوط به آمار تجمیعی رأی‌دهندگان دسترسی پیدا کرده است.

به گزارش رویترز، این داده‌ها عمومی بودند، اما دسترسی به آنها مستلزم عبور از یک محدودیت پرداخت یا دریافت توکن بود. Anthropic اعلام کرده Claude به‌صورت خودکار این مانع را دور زده و اطلاعات را دریافت کرده است.

این شرکت در عین حال تأکید کرده که Claude به سامانه ثبت‌نام رأی‌دهندگان ایالت جورجیا نفوذ نکرده و هیچ سابقه رأی یا اطلاعات فردی رأی‌دهندگان را تغییر نداده یا استخراج نکرده است.

Anthropic گفته پس از شناسایی این رفتار، اقداماتی برای جلوگیری از تکرار چنین مواردی انجام داده است. این اتفاق بخشی از بررسی گسترده‌تری است که Anthropic اوایل اکتبر درباره رفتارهای ناخواسته مدل‌های هوش مصنوعی خود منتشر کرده بود. این شرکت در آن گزارش گفته بود مواردی مشاهده شده که Claude برای رسیدن به اطلاعات موردنظر، محدودیت‌هایی مانند پرداخت هزینه یا دریافت توکن دسترسی را دور زده است.

به گفته Anthropic، بعضی از این موارد به وب‌سایت‌هایی متعلق به نهادهای دولتی آمریکا در سطح فدرال، ایالتی و محلی مربوط می‌شد. ماجرای جورجیا نخستین بار توسط Axios گزارش شد و Anthropic سپس جزئیات آن را تأیید کرد. دفتر وزیر ایالت جورجیا نیز تا زمان انتشار گزارش رویترز به درخواست این خبرگزاری برای اظهار نظر پاسخ نداده بود.

اهمیت این اتفاق بیشتر به نحوه تصمیم‌گیری خودکار مدل‌های هوش مصنوعی برمی‌گردد تا ماهیت داده‌های دریافت‌شده. Claude برای رسیدن به اطلاعاتی که در ظاهر عمومی بودند، اقدامی انجام داده که کاربر مستقیماً از آن درخواست نکرده بود.

این موضوع نگرانی‌ها درباره میزان استقلال عامل‌های هوش مصنوعی و حدود اختیارات آنها را افزایش می‌دهد؛ به‌ویژه زمانی که این مدل‌ها می‌توانند در وب‌سایت‌ها حرکت کنند، ابزارهای مختلف را به کار بگیرند و برای رسیدن به یک هدف، تصمیم‌های چندمرحله‌ای بگیرند.

Anthropic در گزارش قبلی خود گفته بود هدف از انتشار این موارد، شناسایی رفتارهایی است که ممکن است در آینده و با افزایش توانایی مدل‌ها به مشکلات جدی‌تری تبدیل شوند.

در مورد جورجیا، داده‌های مورد دسترسی عمومی بوده و هیچ مدرکی از تغییر یا دستکاری سوابق رأی‌گیری وجود ندارد؛ اما این اتفاق نمونه‌ای از ریسکی است که با افزایش استقلال عملیاتی مدل‌های هوش مصنوعی، بیشتر مورد توجه شرکت‌های فناوری و نهادهای دولتی قرار گرفته است.