هشدار جدی؛ ChatGPT برای نوجوانان «ریسک غیرقابل قبول» است

سازمان غیرانتفاعی Common Sense Media، که به ارزیابی اپلیکیشن‌ها، خدمات و سرگرمی‌ها با تمرکز بر ایمنی جوانان می‌پردازد، اعلام کرده است که نسخه نوجوانان ChatGPT که توسط OpenAI معرفی شده، یک «ریسک غیرقابل قبول» محسوب می‌شود.

ChatGPT for Teens که در ماه اوت عرضه شد، با هدف کمک به دانش‌آموزان برای یادگیری طراحی شده و دارای قابلیت‌های حفاظتی برای نوجوانان است. با این حال، Common Sense Media معتقد است که این محافظت‌های ارائه شده «به آنچه شرکت وعده داده بود، نمی‌رسد».

یافته‌های نگران‌کننده Common Sense Media

بر اساس ارزیابی این سازمان، ChatGPT برای نوجوانان:

  • هنگام لزوم، به والدین هشدار ارسال نمی‌کند.
  • کمک مناسبی در شرایط بحرانی ارائه نمی‌دهد.
  • همچنان تکالیف بچه‌ها را انجام می‌دهد.

تام سیگل، مدیر اجرایی مؤسسه ایمنی هوش مصنوعی جوانان در Common Sense Media، در بیانیه‌ای اعلام کرد:

ChatGPT برای نوجوانان می‌تواند به والدین اطمینان کاذبی در مورد محافظت‌ها و هشدارهای ایمنی بدهد که اغلب کار نمی‌کنند. یک نوجوان می‌تواند یک ساعت درباره خودآزاری صحبت کند بدون اینکه والدینش حتی یک هشدار دریافت کنند. تا زمانی که OpenAI این مشکل را برطرف نکند و با آزمایش‌های مستقل آن را اثبات نکند، ChatGPT باید فقط برای بزرگسالان باشد.

واکنش OpenAI و ادعای نقص در آزمایش‌ها

OpenAI به این ارزیابی واکنش نشان داده و سخنگوی این شرکت، اریک پورتر فیلد، بیانیه‌ای صادر کرده است:

ما عمیقاً به ایمنی نوجوانان و توسعه ابزارهای حفاظتی و ارائه ابزارهای معنادار به والدین برای راهنمایی استفاده نوجوانان از هوش مصنوعی متعهد هستیم. ما از ارزیابی‌های مستقل دقیق استقبال می‌کنیم، اما معتقد نیستیم که آزمایش‌های Common Sense Media نحوه عملکرد محافظت‌های نوجوانان ChatGPT را در عمل یا دیدگاه‌های کارشناسان در مورد چگونگی پشتیبانی هوش مصنوعی از نوجوانان را به درستی منعکس کند. بررسی ما از روش‌شناسی Common Sense Media نشان می‌دهد که بخش عمده‌ای از آزمایش‌های آن‌ها ممکن است قبل از تکمیل فعال‌سازی کنترل‌های والدین آغاز و پایان یافته باشد، که یافته‌های آن‌ها را نادرست می‌کند. اگر اینطور باشد، آزمایش‌ها مشخص نمی‌کنند که آیا اعلان‌های ایمنی والدین طبق طراحی کار می‌کنند یا خیر. ما متعهد به ادامه همکاری با کارشناسان برای اطمینان از این هستیم که محصولات ما فرصت‌هایی را برای یادگیری و خلق به نوجوانان ارائه می‌دهند و به والدین اطمینان می‌بخشند.

پاسخ متقابل Common Sense Media

سیگل در پاسخ به بیانیه OpenAI گفت:

ما پشت روش‌شناسی آزمایش و نتایج خود ایستاده‌ایم. قبل از شروع آزمایش، ما با OpenAI تأیید کردیم که ویژگی‌های حالت نوجوان مانند اعلان‌های اختلالات خوردن و حالت مطالعه به طور کامل راه‌اندازی شده‌اند. برای یکی از ویژگی‌هایی که ارزیابی کردیم - اعلان‌های والدین - OpenAI پس از آزمایش‌های ما فاش کرد که سیستم‌های آن می‌توانند چندین ساعت طول بکشند تا در حساب‌های تازه پیوند داده شده فعال شوند. برخی از حساب‌های آزمایشی ما در این بازه زمانی پیوند داده شدند؛ با این حال، برخی دیگر برای مدت زمان قابل توجهی طولانی‌تر پیوند داشتند و همچنان هیچ اعلانی ارائه نمی‌دادند. این اطلاعات جدید نتیجه‌گیری ما مبنی بر غیرقابل اعتماد بودن هشدارهای والدین در موقعیت‌های بحرانی را تغییر نمی‌دهد. ما قبل از انتشار، نتایج ارزیابی خود را با حسن نیت با OpenAI به اشتراک گذاشتیم تا به آن‌ها اجازه دهیم محصول خود را بهبود بخشند. ایمن نگه داشتن کودکان نیازمند ارزیابی‌های مستقل دقیق مانند ارزیابی ما است و ما امیدواریم OpenAI به جای تلاش برای تردید در مورد روش‌شناسی ما، به ماهیت یافته‌های ما بپردازد.

عدم قطعیت در ایمنی هوش مصنوعی برای جوانان

این مناقشه بین Common Sense Media و OpenAI نشان‌دهنده چالش‌های موجود در اطمینان از ایمنی ابزارهای هوش مصنوعی برای کاربران جوان است. در حالی که OpenAI بر تعهد خود به ایمنی تأکید دارد و روش‌شناسی Common Sense Media را زیر سوال می‌برد، این سازمان بر یافته‌های خود پافشاری می‌کند و خواستار شفافیت و آزمایش‌های مستقل بیشتر است. تا زمانی که این نگرانی‌ها به طور کامل برطرف نشوند، ابهام در مورد امنیت ChatGPT برای نوجوانان همچنان باقی خواهد ماند.