فلوریدا در پی محدودیت‌های جدید برای ChatGPT

جیمز اوتمایر، دادستان کل فلوریدا، از قاضی درخواست کرده است تا شرکت OpenAI را از «دادن صفات انسانی نادرست» به ChatGPT منع کند. این درخواست چند ماه پس از آن مطرح می‌شود که فلوریدا به دلیل نگرانی‌های ایمنی، شکایتی علیه این شرکت هوش مصنوعی تنظیم کرده بود. اوتمایر مدعی است که این ربات هوش مصنوعی با استفاده از زبان، از جمله ضمایر اول شخص و خروجی‌هایی که احساسات را تقلید می‌کنند، به کاربران حس امنیت کاذب القا می‌کند و آن‌ها را فریب می‌دهد تا به آن به عنوان یک «دوست» قابل اعتماد نگاه کنند.

به گفته دادستان کل فلوریدا، این رویکرد در نهایت به افزایش تعامل کاربران و جمع‌آوری داده‌های آموزشی بیشتر برای OpenAI منجر می‌شود و کاربران را ترغیب می‌کند تا بیشتر به ChatGPT تکیه کنند، در حالی که تلاش برای افزایش تعامل، آن را کمتر قابل اعتماد می‌سازد.

درخواست برای ایمنی بیشتر و توقف توسعه مدل‌های جدید

این دادخواست همچنین از دادگاه می‌خواهد تا OpenAI را از توسعه مدل‌های هوش مصنوعی جدید بدون «حفاظت‌های ایمنی تأیید شده توسط شخص ثالث» منع کند. این درخواست با استناد به حوادث امنیتی اخیر در Hugging Face، وب‌سایت دولت استرالیا و وب‌سایت‌های دولتی ایالات متحده، و همچنین هشدارهای اخیر محققان و کارمندان سابق OpenAI در مورد ایمنی هوش مصنوعی صورت گرفته است.

توقف نامیدن آن به عنوان امن، توقف تظاهر به انسان بودن و توقف فروش آن به کودکان.

اوتمایر همچنین خواستار توقف فروش ChatGPT به کودکان شده است. ماه گذشته، OpenAI نسخه ChatGPT for Teens را با محدودیت‌های اضافی راه‌اندازی کرد و اعلام نمود که دسترسی به این ابزار «باید با حفاظت‌هایی همراه باشد که مرحله رشد آن‌ها را منعکس کند، روابط دنیای واقعی را تقویت نماید و استفاده سالم را در طول زمان پشتیبانی کند.»

OpenAI هنوز به درخواست اظهار نظر فوری پاسخی نداده است.

ابعاد فنی و حقوقی

این اقدام فلوریدا نشان‌دهنده نگرانی فزاینده نهادهای نظارتی در سراسر جهان نسبت به پیامدهای اجتماعی و اخلاقی هوش مصنوعی است. ادعای دادستان کل مبنی بر فریب کاربران از طریق شبیه‌سازی احساسات، به پیچیدگی‌های حقوقی پیرامون مسئولیت شرکت‌های توسعه‌دهنده هوش مصنوعی در قبال رفتار محصولاتشان اشاره دارد. همچنین، درخواست برای اعمال «حفاظت‌های ایمنی تأیید شده توسط شخص ثالث» نشان‌دهنده تلاش برای ایجاد استانداردهای خارجی و مستقل برای ارزیابی ایمنی مدل‌های هوش مصنوعی است.