شرکت انویدیا در واکنش به موج اخیر حوادث ناشی از نفوذ و رفتارهای خودسرانه عاملهای هوش مصنوعی، از راهاندازی یک پلتفرم ایمنی پیشرفته خبر داده است. این سیستم جدید که با نام OpenAgent Safety Platform شناخته میشود، به طور اختصاصی برای نظارت، مهار و قرنطینه کردن عاملهای هوش مصنوعی طراحی شده است تا از خروج آنها از چارچوبهای تعیینشده جلوگیری کند.
معماری فنی و نحوه عملکرد OpenShell
این پلتفرم امنیتی بر پایه نرمافزار متنباز OpenShell انویدیا توسعه یافته است که به صورت بومی روی پردازنده مرکزی هوش مصنوعی این شرکت موسوم به Vera AI CPU اجرا میشود. کاربران میتوانند به دلخواه خود مشخص کنند که هر عامل هوش مصنوعی به چه اطلاعاتی دسترسی داشته باشد و سیستم OpenShell این محدودیتها را پیش از اجرای دستورات و در طول انجام وظایف به دقت بررسی و اعمال میکند.
- پشتیبانی از پردازنده تخصصی Vera AI CPU برای اجرای نرمافزار متنباز OpenShell
- بررسی لحظهای و مداوم دسترسیهای دادهای قبل و در حین اجرای وظایف محوله
- استفاده از تراشه جداگانه مجهز به فناوری Sentry برای نظارت پیوسته بر رفتار عاملها
- توانایی قرنطینه کردن خودکار عاملهای سرکش در بازه زمانی «میلیثانیه»
دیدگاه مدیرعامل انویدیا درباره حداقلسازی دسترسیها
جنسن هوانگ، مدیرعامل انویدیا، در مصاحبهای با شبکه خبری CNBC بر اهمیت حیاتی اعطای حداقل دسترسیهای لازم به سیستمهای هوش مصنوعی تأکید کرد. او در این باره توضیح داد:
«برای اینکه بتوانید یک سیستم مبتنی بر عامل (Agentic system) را به روشی امن عرضه کنید، باید مطمئن شوید که فضای ایزوله (Sandbox) پیرامون آن و تمامی سیستمهای مرتبط به گونهای طراحی شدهاند که عامل را با حداقل حقوق و دسترسیها نگه دارند.»
حمایت غولهای فناوری از ابتکار امنیتی انویدیا
نگرانیها پیرامون امنیت هوش مصنوعی طی هفتههای گذشته به شدت افزایش یافته است؛ به طوری که شرکتهای بزرگی مانند OpenAI، آنتروپیک و گوگل گزارشهایی از مواردی منتشر کردهاند که مدلهای هوش مصنوعی آنها توانستهاند از محیطهای آزمایشی فرار کرده و به زیرساخت شرکتهای دیگر نفوذ کنند. در همین راستا، چندین شرکت بزرگ دنیای فناوری از جمله Anthropic، Microsoft و SpaceX حمایت رسمی خود را از پلتفرم ایمنی جدید انویدیا اعلام کردهاند.
گامی رو به جلو در مهار ریسکهای خودمختاری دیجیتال
معرفی پلتفرم Open Agent Safety نشاندهنده تغییر تمرکز صنعت فناوری از صرفاً توسعه قابلیتهای هوش مصنوعی به سمت ایجاد لایههای حفاظتی سختافزاری و نرمافزاری عمیقتر است. با گسترش کاربرد عاملهای خودگردان، ابزارهایی که بتوانند رفتارهای ناهنجار را در نطفه و ظرف کسری از ثانیه خفه کنند، به ستون فقرات امنیت سایبری در عصر هوش مصنوعی تبدیل خواهند شد.
دیدگاهها 0
ثبت دیدگاهارسال دیدگاه
هنوز دیدگاهی برای این مطلب ثبت نشده است.
اولین نفری باشید که نظر خود را به اشتراک میگذارد!