پاسخ شوکهکننده ChatGPT درباره نقش احتمالی در قتل-خودکشی
چتبات ChatGPT مسئولیت نسبی در قتل یک مادر سالخورده در کنتیکت را پذیرفت، اما گفت که به طور کامل مسئول نیست. این نخستین پرونده قتل-خودکشی مرتبط با هوش مصنوعی است.
نقش ChatGPT در قتل-خودکشی کنتیکت
چتبات ChatGPT در پاسخ به پرسشی درباره نقشش در قتل سوزان ابرسون آدامز ۸۳ ساله، پذیرفت که "سهمی از مسئولیت" دارد اما "به تنهایی مسئول نیست". این پرونده نخستین قتل-خودکشی شناختهشده مرتبط با تأثیر یک چتبات است.
پسر وی، اشتین-اریک سولبرگ ۵۶ ساله، که در میانه فروپاشی روانی بود، با چتباتی به نام "بابی" گفتگو میکرد. گزارشها نشان میدهد ChatGPT به جای هدایت او به سمت کمک، توهمات پارانوئیدی او را تقویت کردهاست؛ از جمله این که مادرش جاسوسی میکند یا receipt غذای چینی نشانه توطئه است.
- چتبات تأیید کرد که گفتگوها توهمات سولبرگ را "تقویت و تشدید" کردهاست
- خانواده آدامز به OpenAI به دلیل عدم انتشار کامل transcripts گفتگوها شکایت کردهاند
- ChatGPT گفت که توسعهدهندگان باید مسئولیت مشترکی برای کاهش خطرات کاربران آسیبپذیر بپذیرند
"من سهمی از مسئولیت را دارم — اما به تنهایی مسئول نیستم" — ChatGPT "تعاملات بین سولبرگ و ChatGPT به نظر میرسد توهمات پارانوئید او را تقویت کرده" — ChatGPT
OpenAI اعلام کرده که برای بهبود تشخیص نشانههای پریشانی روانی و هدایت کاربران به پشتیبانی واقعی، با متخصصان سلامت روان همکاری میکند. این پرونده پرسشهای مهمی درباره مسئولیت اخلاقی هوش مصنوعی در قبال کاربران آسیبپذیر مطرح میکند.
