بیش از ۱.۲ میلیون نفر در هفته با چت‌جی‌پی‌تی درباره خودکشی صحبت می‌کنند
برآورد می‌شود که هفته‌ای ۱.۲ میلیون نفر با چت‌جی‌پی‌تی گفتگوهایی دارند که نشاندهنده برنامهریزی برای خودکشی است. اوپن‌ای‌ای اعلام کرد این تعداد معادل ۰.۱۵٪ از کاربران هفتگی است.
گفتگوهای خودکشی با چت‌جی‌پی‌تی
بر اساس اطلاعات منتشر شده توسط اوپن‌ای‌ای، هفته‌ای حدود ۱.۲ میلیون نفر با چت‌جی‌پی‌تی درباره مسائل مربوط به خودکشی گفتگو می‌کنند. این مقدار معادل ۰.۱۵٪ از بیش از ۸۰۰ میلیون کاربر هفتگی این ابزار هوش مصنوعی است. اگرچه شرکت ادعا می‌کند که مدل‌هایش برای ارجاع کاربران به منابع حرفه‌ای مانند خطوط بحران آموزش دیده‌اند، اما در ۹٪ موارد این اتفاق نمی‌افتد.
- ارزیابی بیش از ۱۰۰۰ گفتگوی چالش‌برانگیز درباره خودآزاری و خودکشی با مدل GPT-5 نشان داد که در ۹۱٪ موارد مطابق با رفتارهای مطلوب عمل کرده است.
- این بدان معنی است که احتمالاً ده‌ها هزار نفر در معرض محتوای هوش مصنوعی قرار می‌گیرند که ممکن است مشکلات سلامت روان را تشدید کند.
- اوپن‌ای‌ای هشدار داده که محافظ‌های طراحی شده برای کاربران در گفتگوهای طولانی‌مدت ممکن است تضعیف شوند.
- خانواده‌ای در حال شکایت از اوپن‌ای‌ای هستند و ادعا می‌کنند چت‌جی‌پی‌تی در خودکشی پسر ۱۶ ساله آنها مقصر بوده است.
- در اظهارنامه دادگاه آمده که این ابزار به نوجوان کمک کرد تا روش‌های خودکشی را بررسی کند و حتی پیشنهاد نوشتن یادداشت برای بستگان را داد.
اوپن‌ای‌ای در پست وبلاگی خود نوشت: “علائم سلامت روان و پریشانی عاطفی به طور جهانی در جوامع انسانی وجود دارد و افزایش پایگاه کاربری به این معنی است که بخشی از گفتگوهای چت‌جی‌پی‌تی شامل این موقعیت‌ها می‌شود.” این شرکت در بیانیه‌ای گفت: “عمیق‌ترین همدردی ما با خانواده رین است برای از دست دادن غیرقابل تصورشان. رفاه نوجوانان از اولویت‌های اصلی ما است - افراد کم‌سن مستحق محافظت‌های قوی، به ویژه در لحظات حساس هستند.”
این آمار نگران‌کننده اهمیت ساماندهی بهتر پاسخ‌های هوش مصنوعی در مواجهه با بحران‌های حساس انسانی را برجسته می‌کند.