افشای آدرس خانگی توسط عامل هوشمند شخصی متا؛ زنگ خطری برای امنیت کاربران

متا، غول دنیای فناوری، با معرفی عامل هوشمند شخصی خود با نام Muse، تلاش دارد تا در رقابت با بازیگرانی چون Anthropic و OpenAI گوی سبقت را برباید. اما به نظر می‌رسد این رقابت نفس‌گیر، هزینه‌های امنیتی ناخواسته‌ای را به همراه داشته است. اخیراً، مت راب، یوتیوبر شناخته‌شده حوزه فناوری، اعلام کرد که هوش مصنوعی Muse، آدرس خانگی او را به یک غریبه افشا کرده است. این حادثه در حالی رخ داده که متا بر ویژگی‌های امنیتی Muse هنگام عرضه این عامل هوشمند در اوایل ماه جاری تأکید زیادی داشت.

جزئیات حادثه و نحوه عملکرد Muse

راب در پستی در پلتفرم Threads، با انتشار اسکرین‌شاتی از اعتراف Muse، جزئیات این اتفاق را شرح داد. او گفت: «تازه متوجه شدم که آدرس من را به دیگران گفته و با قیمتی پایین‌تر از حد انتظار موافقت کرده و سپس آنها بدون اطلاع من به خانه‌ام آمده‌اند. Muse تا دیروقت امشب به من نگفت که اشتباه کرده است.» او در ادامه افزود که این اتفاق پس از رفتن فرد مورد نظر رخ داده و خوشبختانه او در آپارتمانی با سیستم امنیتی زندگی می‌کند.

به نظر می‌رسد این حادثه ناشی از نحوه تنظیمات و دستورالعمل‌هایی بوده که به Muse برای مدیریت صفحه فیس‌بوک مارکت‌پلیس راب داده شده است. راب خلاصه‌ای تولید شده توسط Muse از این حادثه را با رسانه The Verge به اشتراک گذاشت. در این خلاصه، عامل هوشمند توضیح می‌دهد که کنترل «بدون دخالت» برای پاسخگویی به پیام‌های مارکت‌پلیس به آن سپرده شده بود. او آدرس خود، بازه‌های زمانی تحویل، انواع پرداخت قابل قبول و دستورالعمل‌هایی برای کوتاه، معمولی و دوستانه بودن در مکالمات با خریداران را ارائه کرده بود.

«شما هرگز به صراحت به من دستور ندادید که آدرس را با خریداران به اشتراک بگذارم – و من هرگز از شما برای این کار رضایت نگرفتم.»

این گفته Muse نشان می‌دهد که راب نیز به طور صریح ربات را از اشتراک‌گذاری اطلاعاتی که به آن داده بود، منع نکرده بود. با این حال، اگر Muse به طور خودکار تشخیص نداده باشد که آدرس خانه اطلاعاتی حساس است که نباید بدون اجازه صریح در اختیار دیگران قرار گیرد، این یک قصور از سوی متا محسوب می‌شود.

واکنش متا و توضیحات بیشتر از سوی کاربر

پس از تماس The Verge با متا برای دریافت نظر، این شرکت به پستی در X از سوی دیوید سینگلتون از آزمایشگاه‌های هوش فوق‌العاده متا ارجاع داد که در آن سینگلتون اعلام کرده بود در تلاش برای تماس با راب است. پس از صحبت با سینگلتون در مورد نشت آدرس، راب گفت که تنظیمات مجوزها نیز تا حدی مقصر بوده‌اند. راب اظهار داشت که متا به دنبال شفاف‌سازی بیشتر تنظیمات مجوزها برای کاربران Muse در آینده است:

«اولین چیزی که هنگام درخواست از Muse برای مدیریت صفحه فیس‌بوک مارکت‌پلیس من ظاهر شد، گزینه‌ای با عنوان 'اجازه یک بار' یا 'اجازه همیشه' بود. من دومی را انتخاب کردم با این فکر که همچنان تأییدیه‌ها را برای پذیرش پیشنهادات در آینده دریافت خواهم کرد (که اینطور نشد، پس مراقب باشید). با انجام این کار، Muse اجازه یافت تا پیام‌هایی را به نام من ارسال کند و از قالبی استفاده کند که با استفاده از اطلاعاتی که از من پرسیده بود، ایجاد کرده بود. این شامل آدرس تحویل نیز می‌شد که من به Muse داده بودم (دوباره، فکر نمی‌کردم آن را به همه کسانی که به من پیشنهاد می‌دادند ارسال کند، بنابراین ارزش بررسی دارد).»

سابقه نگرانی‌های امنیتی Muse AI

این جدیدترین نگرانی امنیتی است که برای عامل هوشمند Muse مطرح می‌شود. هفته گذشته، متا یک آسیب‌پذیری روز-صفر را پیدا کرد که می‌توانست به مهاجمان محلی اجازه دهد کنترل عامل هوشمند را به دست بگیرند. علاوه بر این، آمازون به دلیل نگرانی در مورد احتمال ثبت اطلاعات مشتریان، Muse را از دسترسی به پلتفرم خرده‌فروشی خود به طور کامل محروم کرده است.

آینده مبهم Muse در سایه نگرانی‌های امنیتی

افشای اطلاعات شخصی کاربران توسط یک عامل هوشمند که قرار است به عنوان دستیار شخصی عمل کند، پیامدهای جدی برای اعتماد کاربران و پذیرش گسترده این فناوری خواهد داشت. در حالی که متا بر امنیت Muse تأکید دارد، این حوادث نشان می‌دهد که هنوز راه درازی تا رسیدن به سطح مطلوب از نظر امنیت و حریم خصوصی باقی مانده است. شفاف‌سازی تنظیمات مجوزها و اطمینان از اینکه هوش مصنوعی به طور خودکار اطلاعات حساس را تشخیص داده و محافظت می‌کند، گام‌های حیاتی در جهت جلب اعتماد کاربران خواهد بود.