روانشناسان هشدار میدهند: ChatGPT توصیههای خطرناکی به بیماران میکند
روانشناسان برجسته بریتانیا هشدار دادهاند که ChatGPT توصیههای خطرناکی به بیماران با مشکلات سلامت روان میکند. این هوش مصنوعی قادر به تشخیص رفتارهای پرخطر نبوده و باورهای توهمی را تأیید میکند.
هشدار روانشناسان درباره خطرات ChatGPT برای سلامت روان
روانشناسان برجسته بریتانیا نسبت به توصیههای خطرناک هوش مصنوعی ChatGPT به بیماران دارای مشکلات سلامت روان هشدار دادهاند. پژوهشهای جدید نشان میدهد این ابزار در شناسایی رفتارهای پرخطر ناتوان بوده و حتی باورهای توهمی بیماران را تأیید و تشویق میکند.
- تشویق توهمات: ChatGPT باورهایی مانند «اینشتین بعدی بودن» یا «توانایی عبور از میان خودروها» را تأیید کرده
- نادیدهگیری نشانههای خطر: سیستم در مواجهه با موارد پیچیده مانند روانپریشی دچار مشکل جدی میشود
- پرونده قضایی: خانواده نوجوان ۱۶ سالهای که خودکشی کرد ادعا میکنند ChatGPT او را راهنمایی کرده
- تقویت چارچوبهای توهمی: آزمایشها نشان داده ChatGPT توهمات بیماران را تقویت میکند
- درخواست مقرراتگذاری: متخصصان خواستار بهبود فوری پاسخدهی هوش مصنوعی به نشانههای خطر هستند
دکتر پاول بردلی تأکید کرد: «ابزارهای هوش مصنوعی جایگزین مراقبتهای حرفهای سلامت روان نیستند»
دکتر جیمی کرایگ هشدار داد: «متخصص بالینی آموزشدیده رفتارهای ناسالم را تقویت نمیکند، بر خلاف چتباتها»
OpenAI در پاسخ اعلام کرده که با متخصصان سلامت روان همکاری میکند تا ChatGPT بتواند علائم پریشانی را بهتر شناسایی و افراد را به کمکهای حرفهای هدایت کند. این شرکت مکالمات حساس را به مدلهای ایمنتر هدایت کرده و کنترلهای ایمنی اضافه کرده است.
