محققان ایمنی OpenAI در نامه‌ای سرگشاده، اخراج خود را به چالش کشیدند
سه تن از محققان برجسته حوزه ایمنی هوش مصنوعی در شرکت OpenAI، با انتشار یک نامه سرگشاده، اخراج خود از این شرکت را به شدت مورد اعتراض قرار داده‌اند. جاسمین وانگ، میکیتا بالزنی و تومک کورباک، با ابراز نگرانی از نحوه اطلاع‌رسانی عمومی شرکت پیرامون اخراجشان، معتقدند که این اقدام می‌تواند تأثیر بدی بر روحیه و آزادی بیان همکارانشان داشته باشد؛ آن هم در زمانی که «ایمنی جهان به آن‌ها بستگی دارد.»
اتهام نقض سیاست‌ها و نگرانی از فرهنگ سازمانی
هفته گذشته، OpenAI سه کارمند خود را به اتهام به اشتراک‌گذاری اطلاعات با یک سازمان خارجی ایمنی هوش مصنوعی، اخراج کرد. این شرکت در بیانیه‌ای اعلام کرد که این افراد «سیاست‌های ما در زمینه دسترسی و رسیدگی به اطلاعات حساس شرکت را نقض کرده‌اند... و اعتماد ضروری برای کارمان را خدشه‌دار نموده‌اند.» با این حال، در پی حملات اخیر به سازمان‌هایی مانند Hugging Face، اخراج این محققان ایمنی، پرسش‌های دشواری را برانگیخت و توجه قانون‌گذاران را نیز جلب کرد. این سه محقق همچنین گفته‌اند:
«ما نگران شده‌ایم که ارتباطات داخلی و خارجی پیرامون اخراج ما، همکاران سابقمان را ترسانده است تا صحبت نکنند و به شیوه‌هایی عمل کنند که تا هفته گذشته، بخش جدایی‌ناپذیری از کار در OpenAI بود. ما قبلاً می‌توانستیم نگرانی‌های ایمنی را مطرح کنیم و به طور علنی مخالفت کنیم و تشویق می‌شدیم تا از تخصص سازمان‌های ایمنی مستقل بهره ببریم. این بخشی از چیزی بود که OpenAI را خاص می‌کرد و چرا ما به شدت افتخار می‌کردیم که بخشی از تیم بودیم.»
رد اتهامات و تأکید بر هنجارهای کاری
این محققان در نامه خود تأکید کرده‌اند که اقداماتشان «همسو با مأموریت OpenAI و در چارچوب هنجارهای کاری آن زمان» بوده است. آن‌ها همچنین ابراز نگرانی کرده‌اند که اخراجشان نشان‌دهنده تغییر هنجارها در OpenAI و عدم شفافیت برای کارکنان در مورد جایگاهشان است.
تکذیب شایعات و توصیه‌ها برای آینده
وانگ، بالزنی و کورباک همچنین شایعات مبنی بر اینکه آن‌ها منبع درز اطلاعاتی در مورد معماری‌های جدید و کمتر قابل نظارت OpenAI بوده‌اند را رد کردند. آن‌ها اعلام کردند که با احزاب خارجی خارج از حوزه اختیارات خود تعامل نداشته‌اند و ارتباطاتشان «با هماهنگی و بحث با اعضای هیئت مدیره و مدیران ارشد» صورت گرفته است. وانگ همچنین تأیید کرده است که هنگام کلیک تصادفی بر روی یک ایمیل حساس، به یکی از مدیران اطلاع داده است.
این کارمندان سابق در پایان، توصیه‌هایی را به OpenAI ارائه دادند:
- پایبندی به تعهدات عمومی: شرکت باید به تعهدات خود مبنی بر به‌کارگیری ممیزان ایمنی شخص ثالث پایبند باشد و از اخراج آن‌ها به عنوان «بهانه‌ای برای کنار گذاشتن این همکاری‌ها» استفاده نکند.
- حفظ قابلیت نظارت بر مدل‌های پیشرفته: OpenAI باید قابلیت نظارت بر مدل‌های پیشرفته را حفظ کند.
- فرهنگ شفافیت و گفتگو: حفظ یک «فرهنگ باز و شفاف گفتگو بین محققان ایمنی و سایر بخش‌های اکوسیستم ایمنی» ضروری است.
نگرانی از آینده OpenAI
جاسمین وانگ در رشته توییتی در پلتفرم X، اعلام کرد که رهبری OpenAI «ادعا می‌کند که با نامه ما قویاً موافق است»، اما در عین حال نگرانی خود را نسبت به «شفافیت» OpenAI ابراز داشت. او هشدار داد: «ما اولین کسانی نبودیم که تحت شرایط مشکوک از OpenAI کنار گذاشته شدیم. مگر اینکه کارکنان اکنون در برابر این نوع مانورها بایستند، نگرانم که آخرین نفر نباشیم. پیام به همه کسانی که هنوز در OpenAI هستند روشن است: نگرانی‌های خود را مطرح کنید یا با گروه‌های ایمنی خارجی از نزدیک همکاری کنید، و ممکن است نفر بعدی باشید، بدون اینکه دلیل آن را بدانید.»
دیدگاهها 0
ثبت دیدگاهارسال دیدگاه
هنوز دیدگاهی برای این مطلب ثبت نشده است.
اولین نفری باشید که نظر خود را به اشتراک میگذارد!