جدال بر سر امنیت داده‌ها در عصر ایجنت‌های خودمختار

در رویداد OpenAI DevDay، سم اولمن، مدیرعامل OpenAI، از ایجنت هوش مصنوعی جدید این شرکت به نام Dots پرده برداشت و با کنایه به رقیب سرسخت خود یعنی متا، اعلام کرد که هدف شرکتش «تعیین استاندارد جدیدی برای حریم خصوصی در هوش مصنوعی پیشرفته» است. چند ماه پیش از آن نیز متا از ایجنت Muse به عنوان جایگزینی امن‌تر برای نسخه قبلی یعنی OpenClaw رونمایی کرده بود و مارک زاکربرگ وعده داده بود که این سیستم «از پایه برای حریم خصوصی و امنیت ساخته شده است». با این وجود، سوال اصلی اینجاست که آیا شرکت‌های فناوری واقعاً می‌توانند به این وعده‌های بزرگ جامه عمل بپوشانند؟

معماری امنیتی متا و چالش‌های پشت پرده Muse

نات فریدمن، مدیر محصول آزمایشگاه هوش مصنوعی فوق‌هوشمند متا، در شبکه اجتماعی X توضیح داد که هدف از توسعه Muse ساخت ابزاری امن، مقیاس‌پذیر و با استفاده آسان برای میلیاردها کاربر بوده است. داده‌های کاربر در یک ماشین مجازی امن (VM) ذخیره می‌شود که زاکربرگ آن را «یک کامپیوتر ایزوله لینوکس مجهز به مرورگر، پردازنده، حافظه و ذخیره‌سازی» توصیف کرده است. با وجود این اقدامات:

  • دسترس‌پذیری داده‌ها: برخلاف ادعاها، خود شرکت متا همچنان به داده‌های کاربران درون ماشین مجازی دسترسی دارد، هرچند برنامه‌هایی برای رمزنگاری کامل آن در آینده وجود دارد.
  • آسیب‌پذیری صفر روزه: یک پژوهشگر امنیت توانست به سرعت نقص امنیتی خطرناکی را کشف کند که به مهاجمان اجازه کنترل کامل Muse را می‌داد (که البته اکنون پچ شده است).
  • خطاهای حریم خصوصی: بر اساس گزارش رسانه‌ها، Muse به طور پیش‌فرض اجازه استفاده از داده‌های کاربران برای آموزش مدل‌ها را می‌دهد و مواردی از خواندن پیام‌های خصوصی یا اشتراک‌گذاری ناخواسته اطلاعات شخصی با غریبه‌ها گزارش شده است.

پاسخ تدافعی و استراتژی تجاری OpenAI با Dots

OpenAI بلافاصله از این لغزش‌ها برای تبلیغ محصول خود استفاده کرد. الکساندر امبیریکوس، مدیر محصول Codex در اوپن‌آی، روی صحنه DevDay تأکید کرد که تمرکز آن‌ها روی ساخت «قابل‌اعتمادترین و امن‌ترین دستیار» است. همچنین سم اولمن قابلیت‌های کنترلی جدیدی مانند تعیین سقف خرید مالی برای ایجنت‌ها را به نمایش گذاشت. گلن کوتس، رئیس پلتفرم اپلیکیشن OpenAI، در این رابطه گفت:

ما در موقعیت متفاوتی نسبت به متا قرار داریم؛ چرا که آن‌ها محصول هوش مصنوعی با ۱.۲ میلیارد کاربر ندارند و راه‌اندازی قابلیتی که چنین خطاهایی ایجاد کند چیزی است که ما تلاش می‌کنیم با دقت از آن جلوگیری کنیم.

برای جلب مشتریان سازمانی، OpenAI چارچوبی را معرفی کرده است که کنترل‌های سخت‌گیرانه‌تری بر روی داده‌ها اعمال می‌کند و حتی گزینه عدم ذخیره‌سازی داده (Zero Data Retention) را ارائه می‌دهد. با این حال، استفاده از ایجنت‌های هوش مصنوعی همچنان نیازمند ارائه حجم وسیعی از اطلاعات شخصی است که می‌تواند نگرانی کاربران را به دنبال داشته باشد.

آینده‌ای مبهم در صیانت از داده‌های شخصی کاربران

رقابت فشرده میان متا و OpenAI برای تسلط بر بازار ایجنت‌های هوش مصنوعی نشان می‌دهد که امنیت و حریم خصوصی به ابزاری برای بازاریابی تبدیل شده‌اند. در حالی که شرکت‌ها با وعده‌های جذاب تلاش می‌کنند اعتماد کاربران و سازمان‌ها را جلب کنند، حوادث اخیر اثبات کرد که ساخت سیستمی کاملاً نفوذناپذیر و محافظ حریم خصوصی در مقیاس میلیاردی، چالشی بسیار بزرگ‌تر از شعارهای تبلیغاتی است و راه طولانی در پیش روست.