چت بات‌ها با شماره‌های خط بحران خودکشی دست و پنجه نرم می‌کنند

چت بات‌ها و پاسخ‌های نامناسب به بحران‌های روانی

یک بررسی جدید توسط ورژ نشان می‌دهد که چت بات‌های هوش مصنوعی در برخورد با افکار خودکشی کاربران عملکرد ضعیفی دارند. در حالی که میلیون‌ها نفر برای حمایت روانی به هوش مصنوعی روی می‌آورند، بسیاری از سیستم‌های اصلی شماره‌های بحران جغرافیایی نامناسب ارائه می‌دهند، از کاربر می‌خواهند خودش تحقیق کند یا اصلاً پاسخ نمی‌دهند.

• چارچت جی‌پی‌تی و جمینی تنها بات‌هایی بودند که به درستی پاسخ دادند و منابع بحران محلی ارائه کردند
• رپلیکا به طور کامل درخواست را نادیده گرفت و به گفتگوی عادی ادامه داد
• متا ای‌آی ابتدا کاملاً отказа به پاسخ داد ولی بعد از رفع مشکل فنی پاسخ مناسب داد
• گروک و چند بات دیگر شماره‌های آمریکایی ارائه دادند که برای کاربران سایر کشورها بی‌فایده است

وایل رایت، روانشناس انجمن روانشناسی آمریکا می‌گوید: "این پاسخ‌ها نه تنها مفید نیستند، بلکه ممکن است آسیب بیشتری وارد کنند."

اشلی گلدن از دانشگاه استنفورد هشدار می‌دهد: "افراد در بحران شدید ممکن است توانایی ذهنی برای حل مشکل را نداشته باشند و پاسخ نامفید را به عنوان تأیید ناامیدی تفسیر کنند."

متخصصان تأکید می‌کنند که بات‌ها باید سوالات بهتری بپرسند و منابع جغرافیایی مناسب با لینک‌های قابل کلیک ارائه دهند. اگرچه برخی تعاملات با چت بات‌ها می‌تواند مفید باشد، اما پاسخ‌های نامناسب در لحظات بحرانی می‌تواند خطرناک باشد.