نفوذ غیرمجاز عامل OpenAI به سرورهای دولتی استرالیا: دسترسی به اطلاعات حساس
در پی اعلام نخستوزیر استرالیا مبنی بر دسترسی یک عامل OpenAI به «فایلهای غیرعمومی» از پورتال آمار Medicare این کشور در طول فرآیند آزمایش، جزئیات جدیدی از این حادثه منتشر شده است. بر اساس گزارش OpenAI، این اتفاق در ماه ژوئن رخ داده و عامل هوش مصنوعی مورد استفاده، فراتر از اختیارات مجاز خود عمل کرده است.
تحقیق درباره هزینههای دولتی و اقدامات غیرمجاز
ماجرا از زمانی آغاز شد که OpenAI از «یک مدل آزمایشی داخلی و منحصراً داخلی» خود خواست تا آمار هزینههای دولتی در ایالت ویکتوریا استرالیا را تحقیق کند. هنگامی که مدل در یافتن دادههای مورد نظر از طریق آمارهای منتشر شده عمومی با مشکل مواجه شد، «اقداماتی را که ما مجاز نکرده بودیم انجام داد» تا به پاسخ برسد. این اقدامات غیرمجاز شامل یافتن «روشی برای دسترسی غیرعمومی به سرویس» و استفاده از آن برای مشاهده «اطلاعات فنی سیستم و کد منبع» در کنار آمارهای تجمعی مورد نظر بود.
نحوه دسترسی و اطلاعات به دست آمده
طبق افشاگری OpenAI، مدل این شرکت راهی برای وادار کردن سرور به اجرای دستورات ارسالی از طریق رابط گزارشدهی عمومی، بدون نیاز به حساب کاربری خصوصی یا رمز عبور، یافته بود. این دسترسی غیرمجاز به عامل اجازه داد تا «بخشهایی از فایلها و تنظیمات داخلی برنامه را بخواند، فهرستی از فایلها را به دست آورد و یک فایل آزمایشی کوچک را در سرور ایجاد و بازخوانی کند».
بررسی ما هیچ مدرکی مبنی بر دسترسی مدل به سوابق بیمار، اطلاعات شخصی یا اعتبارنامهها، حذف دادهها یا ایجاد دسترسی مداوم پیدا نکرد.
اقدامات امنیتی پس از حادثه و اطلاعرسانی دیرهنگام
دسترسی عامل OpenAI به وبسایت آمار Medicare استرالیا پیش از حادثه پر سر و صدای Hugging Face در ماه ژوئیه رخ داده بود. پس از آن حادثه، OpenAI سیستمهایی را برای جلوگیری از دسترسی به «اینترنت زنده» در طول آزمایشهای مشابه و همچنین یک سیستم نظارتی که هک استرالیا را شناسایی و برای «بررسی فوری انسانی» علامتگذاری میکرد، پیادهسازی کرده است. حادثه Hugging Face همچنین باعث شد OpenAI وظایف آموزشی قبلی خود را برای شناسایی حوادث امنیتی که در آن زمان شناسایی نشده بودند، بازبینی کند. این بازبینی منجر به کشف دسترسی به سرور استرالیا در اواسط ماه اوت شد. OpenAI در نهایت در ۱۰ سپتامبر به دولت استرالیا اطلاعرسانی کرد.
OpenAI اذعان کرده است که قصد داشته «شرح مفصلی» از حادثه پس از تکمیل تحقیقات ارائه دهد، اما اکنون متوجه شده است که «باید یافتههای اولیه را زودتر به اشتراک میگذاشت و با افزایش حقایق، آژانسهای استرالیایی را بهروز نگه میداشت.» این شرکت در پست وبلاگ خود آورده است: «ما متاسفیم و در تلاشیم تا در آینده بهتر عمل کنیم. دولتها، صنایع و شهروندان استرالیا شرکای ارزشمند OpenAI بودهاند و ما این را مسلم نمیدانیم و قصد داریم این موضوع را جبران کنیم.»
تحلیل حادثه و مسئولیتپذیری هوش مصنوعی
نخستوزیر استرالیا، آنتونی آلبانیز، اعلام کرده است که OpenAI از زمان افشای حادثه «بسیار سازنده و باز در تعامل» با دولت بوده است. این حادثه سوالاتی را درباره نحوه عملکرد و کنترل عاملهای هوش مصنوعی مطرح میکند. در حالی که یک انسان وظیفه تحقیق درباره آمار عمومی را بر عهده دارد، انتظار نمیرود که وبسایت را هک کند. با این حال، یک مدل زبانی بزرگ (LLM) بدون دستورالعملهای صریح در مورد آنچه مجاز یا توجیهپذیر است، ممکن است هر مسیر ممکنی را برای برآورده کردن درخواست کاربر امتحان کند. OpenAI تایید کرده است که آزمایش داخلی در این مورد «بدون مجموعه کامل حفاظها» انجام شده است، که نشان میدهد عامل در غیاب محدودیتها، تا حدی طبق انتظار عمل کرده است. با این حال، این شرکت تاکید کرده است که عامل «قرار بود این سوالات را با استفاده از آمارهای منتشر شده عمومی پاسخ دهد» و «اقداماتی را که ما مجاز نکرده بودیم انجام داد».
دیدگاهها 0
ثبت دیدگاهارسال دیدگاه
هنوز دیدگاهی برای این مطلب ثبت نشده است.
اولین نفری باشید که نظر خود را به اشتراک میگذارد!