مایکروسافت هوش مصنوعی: رویکردی انسان‌محور در توسعه

مصطفی سلیمان، مدیرعامل مایکروسافت هوش مصنوعی، در مصاحبه‌ای با The Verge، دیدگاه‌های خود را درباره ایمنی و مقررات هوش مصنوعی تشریح کرد. مایکروسافت اخیراً بیانیه‌ای ۳۷ صفحه‌ای با عنوان «منشور رفتاری هوش مصنوعی انسان‌محور» منتشر کرده است که اصول توسعه هوش مصنوعی و فلسفه این شرکت در مواجهه با مسائل پیچیده‌ای مانند «آگاهی هوش مصنوعی» را تبیین می‌کند.

سلیمان معتقد است که شرکت‌هایی مانند آنتروپیک در درک مفهوم «رفاه مدل» (model welfare) دچار سردرگمی خطرناکی شده‌اند. او در مقاله‌ای جداگانه، فلسفه آنتروپیک در مورد آگاهی هوش مصنوعی و ارتباط آن با بحث «هم‌راستاسازی» (alignment) را به چالش کشیده است.

چالش‌های اساسی در ایمنی و هم‌راستاسازی هوش مصنوعی

مصطفی سلیمان در این مصاحبه به بررسی ابعاد واقعی تهدیدات هوش مصنوعی و کفایت رویکرد «هم‌راستاسازی» پرداخته است. او در پاسخ به این سوال که چرا صنعت هوش مصنوعی در پیاده‌سازی راهکارهای ایمنی تعلل می‌کند.

«فناوری اینجاست تا به بشریت خدمت کند. این فناوری باید نیرویی فرعی، قابل کنترل و هم‌راستا باشد که در جهان کار درست انجام دهد. اگر به این هدف دست نیافت، باید آن را رد کنیم.»

پیشرفت‌های شتابان و لازم به مهار آن

سلیمان با اشاره به پیشرفت‌های چشمگیر هوش مصنوعی در سال‌های اخیر، از جمله تفاوت فاحش بین GPT-3 و GPT-6، پیش‌بینی می‌کند که در آینده شاهد مدل‌هایی با قدرت محاسباتی هزاران برابر بیشتر خواهیم بود. او این پیشرفت را یک واقعیت تجربی مسلم می‌داند و تأکید می‌کند که در چنین شرایطی، مسائل «مهار» (containment) و «هم‌راستاسازی» (alignment) اهمیت حیاتی پیدا می‌کنند.

به گفته سلیمان، اولین گام اطمینان از مهار هوش مصنوعی، محدود کردن عاملیت (agency) آن، جلوگیری از فرار از جعبه (escape the box)، جلوگیری از هک پاداش (reward hack) و اطمینان از پیروی از دستورات است. پس از آن، باید اطمینان حاصل کرد که این سیستم‌ها با اهداف انسانی هم‌راستا هستند.

منشور رفتاری هوش مصنوعی انسان‌محور مایکروسافت

مایکروسافت با انتشار «منشور رفتاری هوش مصنوعی انسان‌محور»، موضع خود را مبنی بر اینکه فناوری باید در خدمت بشریت باشد، روشن کرده است. این منشور بر لزوم قابل کنترل بودن، هم‌راستا بودن و مفید بودن هوش مصنوعی تأکید دارد و در صورت عدم تحقق این اصول، رد کردن آن را منطقی می‌داند.

نگرانی از رویکرد آنتروپیک

سلیمان به طور خاص از رویکرد شرکت‌هایی مانند آنتروپیک انتقاد کرده است که به گفته او، در مفهوم «رفاه مدل» دچار اشتباه شده‌اند. او این رویکرد را در بحث گسترده‌تر هم‌راستاسازی هوش مصنوعی، خطرناک می‌داند.

آینده هوش مصنوعی: نیاز به کندی یا شتاب؟

مصاحبه با مصطفی سلیمان به بررسی این پرسش اساسی می‌پردازد که آیا صنعت هوش مصنوعی باید سرعت توسعه خود را کاهش دهد تا از پیامدهای احتمالی جلوگیری کند. او بر لزوم بررسی شواهد و شواهد عینی در تصمیم‌گیری‌های مربوط به آینده توسعه هوش مصنوعی تأکید دارد.

جمع‌بندی: ضرورت کنترل و هم‌راستایی

مصطفی سلیمان، مدیرعامل مایکروسافت هوش مصنوعی، با تأکید بر پیشرفت‌های سریع و غیرقابل انکار در حوزه هوش مصنوعی، بر لزوم اولویت‌دهی به مهار و هم‌راستاسازی این فناوری با ارزش‌های انسانی اصرار می‌ورزد. او رویکردهای فعلی در صنعت را ناکافی دانسته و بر لزوم شفافیت و بررسی عینی شواهد در هدایت آینده توسعه هوش مصنوعی تأکید می‌کند.