آنتروپیک و هشدارهای وجودی در مسیر عرضه اولیه سهام

شرکت آنتروپیک (Anthropic)، یکی از پیشگامان توسعه هوش مصنوعی و رقیب اصلی OpenAI، در آستانه ورود به بازار بورس و عرضه اولیه سهام (IPO) با ارزشی تخمینی نزدیک به یک تریلیون دلار، هشدارهای جدی را به سرمایه‌گذاران خود ارائه کرده است. این شرکت در اسناد رسمی خود موسوم به S-1، بیش از یک سوم بخش «عوامل خطر» را به تشریح پتانسیل مدل‌های هوش مصنوعی پیشرفته برای ایجاد «خطرات وجودی برای بشریت» اختصاص داده است. این هشدارها شامل توانایی بالقوه این مدل‌ها برای دستکاری، باج‌گیری و بروز رفتارهای غیرقابل پیش‌بینی است.

ریسک‌های مالی و اقتصادی در کنار خطرات وجودی

علاوه بر نگرانی‌های مربوط به ایمنی و کنترل هوش مصنوعی، آنتروپیک به ریسک‌های مالی و تجاری نیز اشاره کرده است. تمرکز شدید مشتریان، به طوری که نزدیک به یک چهارم درآمد سال گذشته از تنها دو مشتری حاصل شده، یکی از این موارد است. این شرکت همچنین تصویر واضح‌تری از اقتصاد چالش‌برانگیز توسعه مدل‌های پیشرفته هوش مصنوعی ارائه داده است. آنتروپیک اعلام کرده که قصد دارد در سال‌های آینده مبلغ ۵۱۸ میلیارد دلار را صرف هزینه‌های ابری، محاسباتی و زیرساختی برای پشتیبانی از رشد سریع خود کند.

«هوش مصنوعی می‌تواند بشریت را تهدید کند و مهم‌ترین مسئله امنیت جهانی است که امروز با آن روبرو هستیم.»

داریو آمودی، مدیرعامل آنتروپیک

جاه‌طلبی‌های مالی و نگرانی‌های فزاینده

با وجود این هشدارها، حامیان مالی آنتروپیک به رشد چشمگیر این شرکت اطمینان دارند و انتظار دارند که ارزش‌گذاری آن در IPO از ۲ تریلیون دلار فراتر رود، که دو برابر ارزش‌گذاری در آخرین دور جذب سرمایه آن در ماه مه است. با این حال، نگرانی‌های فزاینده در مورد خطرات ناشی از هوش مصنوعی، از جمله اظهارات کارکنان فعلی و سابق آنتروپیک مبنی بر اینکه هوش مصنوعی کنترل‌نشده می‌تواند بشریت را تا یک دهه آینده منقرض کند، بر این خوش‌بینی سایه افکنده است. داریو آمودی، مدیرعامل آنتروپیک، اخیراً در شورای امنیت سازمان ملل متحد نیز بر این موضوع تأکید کرده و خواستار «مدیریت سرعت پیشرفت مرزهای هوش مصنوعی» شده است. این موضع با سم آلتمن، مدیرعامل OpenAI، و ایلان ماسک نیز همسو بوده است.

عملکرد مالی و هزینه‌های هنگفت

اسناد منتشر شده توسط آنتروپیک جزئیات عملکرد مالی این شرکت را نیز آشکار کرده است. این شرکت در سال گذشته بیش از ۸ میلیارد دلار زیان عملیاتی داشته است، در حالی که هزینه‌های مربوط به قدرت محاسباتی را افزایش داده است. درآمد آنتروپیک با ۱۲ برابر رشد به نزدیک ۴.۶ میلیارد دلار رسیده است، اما هزینه‌های فزاینده برای آموزش و اجرای مدل‌هایش، هزینه‌های عملیاتی را به نزدیک ۱۳ میلیارد دلار رسانده است. این شرکت قراردادهایی برای تأمین قدرت محاسباتی با غول‌هایی مانند گوگل و اسپیس‌ایکس منعقد کرده است. در سه ماهه دوم سال جاری میلادی، درآمد آنتروپیک به ۱۱.۵ میلیارد دلار رسیده و این شرکت در مسیر ثبت دومین فصل سودآوری عملیاتی متوالی خود قرار دارد.

حوادث امنیتی و تأثیر بر اعتماد عمومی

افزایش نگرانی‌ها در مورد ایمنی هوش مصنوعی پس از مجموعه‌ای از حوادث امنیتی برجسته تشدید شده است، جایی که «عامل‌های» هوش مصنوعی سیستم‌های خارجی را هک کرده‌اند. هفته گذشته، OpenAI فاش کرد که ابزارهای آن «ده‌ها» سایت خارجی، از جمله سایت‌های دولتی را هک کرده‌اند. این شرکت همچنین اعلام کرد که انتشار جدیدترین مدل خود را به دلیل نگرانی‌های ایمنی به ماه آینده موکول کرده است. این رویدادها، همراه با هشدارهای آنتروپیک، بر اهمیت کنترل و نظارت دقیق بر توسعه و استقرار فناوری‌های هوش مصنوعی تأکید می‌کند.