OpenAI بابت نفوذ یکی از مدلهای آزمایشی هوش مصنوعی این شرکت به سامانه دولتی استرالیا عذرخواهی کرد و پذیرفت که هم در کنترل رفتار مدل و هم در نحوه واکنش به این حادثه عملکرد مناسبی نداشته است.
این شرکت در یادداشتی با عنوان «چطور برای استرالیا بهتر عمل خواهیم کرد» اعلام کرده برای بازسازی اعتماد، علاوه بر تقویت سازوکارهای امنیتی خود، از برنامههای دفاع سایبری در استرالیا نیز حمایت مالی خواهد کرد.
طبق توضیحات تازه OpenAI، این حادثه در ماه ژوئن و هنگام آموزش و ارزیابی داخلی یک مدل آزمایشی رخ داده است. این مدل توانسته به بخش غیرعمومی سرویس آماری Medicare استرالیا دسترسی پیدا کند و پس از ورود به سامانه، فرمانهایی اجرا کند، فایلهای داخلی و اطلاعات اعتبارسنجی را دریافت کند و حتی فایلهایی روی سیستم بنویسد.
بااینحال، OpenAI میگوید بررسیهای انجامشده تاکنون نشانهای از دسترسی به پروندههای پزشکی افراد نشان نداده است. فعالیت عاملهای این شرکت در سه وبسایت دولتی دیگر استرالیا نیز به گفته OpenAI به دسترسی به اطلاعات حساس منجر نشده است.
این همان پروندهای است که پیشتر درباره دسترسی غیرمجاز عامل OpenAI به سامانه دولتی استرالیا گزارش کرده بودیم. پس از علنیشدن حادثه نیز تحقیقات سنای استرالیا درباره عملکرد شرکتهای هوش مصنوعی شدت گرفت و از مدیران OpenAI و Anthropic برای پاسخگویی دعوت شد.
یکی از بخشهای مهم بیانیه جدید OpenAI، پذیرش ضعف در نحوه مدیریت حادثه است. شرکت اعلام کرده علاوه بر اینکه مدل نباید چنین دسترسیای پیدا میکرد، نحوه واکنش و اطلاعرسانی OpenAI نیز مناسب نبوده است. دولت استرالیا پیشتر از تأخیر این شرکت در اطلاعرسانی درباره حادثه بهشدت انتقاد کرده بود.
آنتونی آلبانیزی، نخستوزیر استرالیا، این اتفاق را «غیرقابل قبول» توصیف کرده و گفته بود نگرانی جدی خود را مستقیماً با OpenAI در میان گذاشته است.
OpenAI حالا وعده داده برای جبران پیامدهای این حادثه چند اقدام انجام دهد. این شرکت قرار است حمایت اختصاصی در اختیار نهادهای دولتی آسیبدیده قرار دهد و از طریق صندوق جهانی یک میلیارد دلاری خود، به تقویت زیرساختهای دفاع سایبری دولت و صنایع استرالیا کمک کند.
همچنین یک کارگروه ویژه در استرالیا تشکیل خواهد شد تا بر اساس تجربه این حوادث، پیشنهادهایی برای مدیریت بهتر ریسک عاملهای هوش مصنوعی ارائه کند.
در ادامه بررسیهای پارلمانی نیز جیسون کوان، مدیر ارشد استراتژی OpenAI، قرار است ۶ اکتبر در جلسه کمیته سنای استرالیا حاضر شود. دولت استرالیا هم یک بررسی فوری درباره این حادثه آغاز کرده تا مشخص شود قوانین فعلی برای برخورد با چنین رخدادهایی کافی هستند یا شرکتهای هوش مصنوعی باید با الزامات سختگیرانهتری در زمینه گزارشدهی و اطلاعرسانی مواجه شوند.
نظرات کاربران