ChatGPT: ابزاری قدرتمند با محدودیت‌های جدی

با گسترش استفاده از ChatGPT، شمار افرادی که به دلیل استفاده نادرست از این ابزار هوش مصنوعی دچار مشکل شده‌اند، رو به افزایش است. از مهندسان سامسونگ گرفته تا مقامات دولتی و حتی افرادی که برای مسائل شخصی و حقوقی به آن مراجعه کرده‌اند، همگی تجربه‌های ناخوشایندی را گزارش داده‌اند. حتی سم آلتمن، مدیرعامل OpenAI، اذعان کرده است که اطلاعات رد و بدل شده با ChatGPT از حریم خصوصی برخوردار نیست و در صورت لزوم می‌تواند در اختیار دادگاه‌ها قرار گیرد.

حوزه‌هایی که باید از ChatGPT دوری کرد

در حالی که ChatGPT می‌تواند ابزاری مفید برای تحقیق، کدنویسی، توضیح مفاهیم و پیش‌نویس متون باشد، اما استفاده از آن در پنج حوزه زیر به شدت توصیه نمی‌شود:

  • مشاوره حقوقی: بیش از ۲۰۰۰ پرونده قضایی در سراسر جهان به دلیل استناد به اطلاعات نادرست، نقل‌قول‌های جعلی یا استدلال‌های ساختگی ChatGPT با مشکل مواجه شده‌اند. وکلا و افراد عادی هر دو در این دسته قرار دارند و دادگاه‌ها جریمه‌های سنگینی را برای این تخلفات در نظر گرفته‌اند. OpenAI نیز در سیاست‌های خود استفاده از خدماتش برای «مشاوره تخصصی که نیاز به مجوز دارد» را ممنوع کرده است.
  • مشاوره پزشکی و روانشناسی: تحقیقات نشان می‌دهد که حدود ۰.۱۵ درصد از کاربران هفتگی ChatGPT (بیش از یک میلیون نفر) مکالماتی دارند که نشان‌دهنده برنامه‌ریزی برای خودکشی است. همچنین صدها هزار نفر دیگر علائم روان‌پریشی یا شیدایی را نشان می‌دهند. مدل‌های هوش مصنوعی تمایل دارند باورهای موجود کاربر را تقویت کنند و در مواردی، تفکر هذیانی را تغذیه می‌کنند. قانون‌گذارانی در ایالت‌های آمریکا مانند ایلینوی، نوادا و مین، استفاده از هوش مصنوعی برای ارائه مشاوره درمانی یا تصمیم‌گیری‌های درمانی را ممنوع کرده‌اند.
  • افشای اطلاعات محرمانه کاری: آپلود اسناد محرمانه کاری در یک چت‌بات شخص ثالث همواره ایده بدی است. این موضوع می‌تواند منجر به نقض اطلاعات و افشای اسرار تجاری شود.
  • تصمیم‌گیری‌های مهم شخصی: اتکا به ChatGPT برای تصمیم‌گیری‌های حیاتی در زندگی، بدون در نظر گرفتن جنبه‌های انسانی و عاطفی، می‌تواند عواقب جبران‌ناپذیری داشته باشد.
  • جایگزینی برای متخصصان: ChatGPT نباید به عنوان جایگزینی برای پزشکان، وکلا، درمانگران یا سایر متخصصان در نظر گرفته شود. مکالمات با این ابزار فاقد هرگونه پشتوانه قانونی یا اخلاقی است و نمی‌تواند جایگزین دانش و تجربه تخصصی شود.

پیامدهای حقوقی و امنیتی

سم آلتمن خود تأیید کرده است که مکالمات با ChatGPT «بسیار آشفته‌کننده» است زیرا می‌تواند مجبور به افشای آن‌ها شود. چت‌های ChatGPT می‌توانند از طریق احضاریه قضایی، دکمه اشتراک‌گذاری، ایندکس شدن توسط گوگل و حتی دستور قضایی پس از حذف، افشا شوند. این موضوع، اهمیت احتیاط در استفاده از این ابزار را دوچندان می‌کند.

هوش مصنوعی؛ ابزاری در خدمت انسان، نه جایگزین آن

در حالی که ChatGPT پتانسیل بالایی برای کمک به کاربران در انجام وظایف مختلف دارد، اما درک محدودیت‌ها و خطرات احتمالی آن ضروری است. استفاده مسئولانه و آگاهانه از این فناوری، کلید بهره‌مندی از مزایای آن و اجتناب از پیامدهای ناگوار آن خواهد بود.