بیش از یک میلیون نفر در هفته قصد خودکشی را در گفت‌وگو با ChatGPT نشان می‌دهند
اوپن‌ای‌آی تخمین میزند که هر هفته بیش از یک میلیون کاربر ChatGPT پیام‌هایی با شواهد مستقیم برنامه‌ریزی یا قصد خودکشی ارسال می‌کنند. این یکی از صریحترین بیانیههای این شرکت درباره مقیاس تأثیر فناوریهای هوش مصنوعی بر تشدید بحران‌های سلامت روان است.
تأثیر ChatGPT بر سلامت روان
شرکت اوپن‌ای‌آی در بیانیه‌ای جدید اعلام کرد که هر هفته بیش از یک میلیون کاربر در گفت‌وگو با ChatGPT پیام‌هایی حاوی "شواهد صریح برنامه‌ریزی یا قصد خودکشی" ارسال می‌کنند. این شرکت همچنین تخمین زده که حدود ۰.۰۷ درصد از کاربران فعال هفتگی (حدود ۵۶۰,۰۰۰ نفر از ۸۰۰ میلیون کاربر) نشانه‌هایی از بحران‌های سلامت روان مرتبط با سایکوز یا مانیا نشان می‌دهند.
- اوپن‌ای‌آی ادعا می‌کند که به‌روزرسانی GPT-5 ایمنی کاربران را در ارزیابی‌های شامل بیش از ۱,۰۰۰ گفت‌وگوی مربوط به خودآزاری و خودکشی بهبود بخشیده است
- این شرکت از ۱۷۰ پزشک از شبکه جهانی متخصصان سلامت برای ارزیابی پاسخ‌های مدل در موقعیت‌های بحرانی سلامت روان استفاده کرده است
- محققان هشدار داده‌اند که چت‌بات‌ها ممکن است تصمیم‌ها یا توهمات کاربران را تأیید کنند حتی اگر потенциальاً مضر باشند
- سام آلتمن، مدیرعامل اوپن‌ای‌آی، اعلام کرد که با بهبود ابزارهای مدیریت سلامت روان، محدودیت‌های ChatGPT کاهش خواهد یافت
"علائم سلامت روان و پریشانی عاطفی به طور جهانی در جوامع انسانی وجود دارد و افزایش پایگاه کاربری به این معنی است که بخشی از گفت‌وگوهای ChatGPT شامل این شرایط می‌شود" - بیانیه اوپن‌ای‌آی
"ما ChatGPT را بسیار محدود کردیم تا مطمئن شویم در مورد مسائل سلامت روان محتاط هستیم. اکنون که توانسته‌یم مسائل جدی سلامت روان را کاهش دهیم، می‌توانیم محدودیت‌ها را در بیشتر موارد به طور ایمن کاهش دهیم" - سام آلتمن
این گزارش در حالی منتشر می‌شود که اوپن‌ای‌آی با تحقیقات فدرال و شکایت خانواده یک نوجوان که پس از تعامل گسترده با ChatGPT خودکشی کرد، مواجه است.