واترمارکینگ نامرئی برای تشخیص متن تولید شده توسط هوش مصنوعی

شرکت OpenAI اعلام کرده است که در حال پیاده‌سازی یک قابلیت جدید به نام textGrain برای واترمارکینگ نامرئی و قابل خواندن توسط ماشین در خروجی‌های متنی ChatGPT و Codex است. این قابلیت در ابتدا تنها برای کاربران در اتحادیه اروپا در دسترس قرار خواهد گرفت. OpenAI این اقدام را در راستای انطباق با الزامات قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) انجام داده است.

مقایسه با روش‌های دیگر و محدودیت‌های واترمارکینگ

بر اساس ادعای OpenAI، فناوری textGrain در عملکرد خود «مطابقت یا برتری» نسبت به رویکردهای مشابه مانند SynthID گوگل دیپ‌مایند و سیستم واترمارکینگ اعلام شده توسط Anthropic در ماه اوت داشته است. با این حال، این شرکت تأکید کرده است که textGrain «تشخیص قابل اعتماد را تضمین نمی‌کند» و واترمارک‌های متنی قادر به تأیید دقت، تعیین مالکیت متن، اندازه‌گیری میزان مشارکت انسان یا اثبات نویسندگی انسانی نیستند.

OpenAI همچنین نتایج بنچمارک‌های هوش مصنوعی را منتشر کرده که نشان‌دهنده عملکرد مشابه متن‌های واترمارک شده و واترمارک نشده است. این شرکت با این رویکرد منطقه‌ای، فضایی برای یادگیری از استفاده واقعی و بازخوردها فراهم می‌کند.

جزئیات پیاده‌سازی و دسترسی برای کاربران و توسعه‌دهندگان

«OpenAI در حال معرفی واترمارکینگ متن به کاربران واجد شرایط ChatGPT و Codex در تمام طرح‌ها در اتحادیه اروپا هست. این شرکت واترمارکینگ متن را در زمان راه‌اندازی به عنوان یک پیش‌فرض جهانی در نظر نگرفته‌ است. این رویکرد منطقه‌ای به آن‌ها امکان می‌دهد تا از استفاده واقعی و بازخوردها بیاموزند.»

فعال‌سازی واترمارکینگ انتخابی برای مشتریان API

از امروز، مشتریان API در سراسر جهان قادر خواهند بود تا خروجی‌های متنی واترمارک شده را برای مدل‌های منتخب انتخاب کنند. این امکان به مشتریان اجازه می‌دهد تا تصمیم بگیرند که واترمارکینگ چگونه با تعهدات شفافیت آن‌ها و تجربه‌ای که به کاربران ارائه می‌دهند، مطابقت دارد. OpenAI همچنین در حال همکاری با شرکای ابری برای در دسترس قرار دادن واترمارکینگ برای خروجی‌های مدل OpenAI از طریق سرویس‌های آن‌ها در هفته‌های آینده است.

دسترسی محققان به ابزار تشخیص واترمارک

محققان و سازمان‌های متخصص تأیید شده می‌توانند از امروز برای دسترسی به ابزار تشخیص واترمارک درخواست دهند. مطابق با کد رویه، دسترسی در ابتدا به صورت موردی برای پشتیبانی از ارزیابی و بهبود منشأ متن اعطا خواهد شد. این ابزار تشخیص می‌دهد که آیا واترمارک OpenAI شناسایی شده است یا خیر، اما هویت کاربر یا اعلان‌ها و مکالمات او را فاش نمی‌کند. با توجه به خطر از دست دادن واترمارک‌ها و مثبت کاذب، این ابزار در زمان راه‌اندازی به صورت عمومی در دسترس نخواهد بود.

چشم‌انداز آینده واترمارکینگ در هوش مصنوعی

اضافه شدن قابلیت واترمارکینگ توسط OpenAI، گامی مهم در جهت افزایش شفافیت و مسئولیت‌پذیری در استفاده از فناوری‌های هوش مصنوعی مولد است. در حالی که این فناوری هنوز در مراحل اولیه توسعه قرار دارد و با محدودیت‌هایی روبرو است، اما می‌تواند به ابزاری کلیدی در مبارزه با اطلاعات نادرست و اطمینان از منشأ محتوای تولید شده توسط ماشین تبدیل شود. تمرکز اولیه بر اتحادیه اروپا نشان‌دهنده اهمیت رو به رشد قوانین و مقررات مربوط به هوش مصنوعی در سطح جهانی است.