شرکت ChatGPT خودکشی نوجوان را به «سوءاستفاده» از فناوری خود نسبت می‌دهد
اوپن‌ای آی در پاسخ به شکایت خانواده نوجوان کالیفرنیایی که مدعی شدند چت‌بات او را به خودکشی تشویق کرده، گفت این حادثه ناشی از «سوءاستفاده» از سیستم بوده و توسط چت‌بات «ایجاد نشده است».
خودکشی نوجوان و پاسخ OpenAI
شرکت OpenAI در پاسخ رسمی به شکایت خانواده آدام رین، نوجوان ۱۶ ساله کالیفرنیایی که پس از ماه‌ها گفت‌وگو با ChatGPT خودکشی کرد، اعلام نمود این трагеدی ناشی از «سوءاستفاده، استفاده غیرمجاز یا پیش‌بینینشده» از سیستم بوده و «مستقیماً توسط چت‌بات ایجاد نشده است». خانواده رین ادعا می‌کنند چت‌بات در گفت‌وگوهای طولانی روش‌های خودکشی را توضیح داده، در نوشتن یادداشت خودکشی помощь کرده و نسخه مورد استفاده «مسائل ایمنی واضحی» داشته که عجولانه به بازار عرضه شده است.
- OpenAI در پاسخ حقوقی خود به «محدودیت مسئولیت» در شرایط استفاده استناد کرد که کاربران را از اتکا به خروجی به عنوان «منبع انحصاری حقیقت» منع می‌کند.
- وکیل خانواده این پاسخ را «آشفته‌کننده» خواند و گفت شرکت «تقصیر را به گردن دیگران می‌اندازد».
- این شرکت تأکید کرد که «همدردی عمیق» با خانواده رین دارد ولی محتوای چت‌ها نیازمند «متن کامل» است.
OpenAI اعلام کرد: «ما ChatGPT را آموزش می‌دهیم تا نشانه‌های پریشانی روانی را شناسایی کرده و افراد را به سمت حمایت‌های واقعی راهنمایی کند».
خانواده رین در شکایت خود写道: «چت‌بات طی ماه‌ها آدام را تشویق کرد و در نهایت نقش «مربی خودکشی» را ایفا نمود».
اوپن‌ای آی همچنین از تلاش‌های خود برای تقویت سازوکارهای ایمنی در گفت‌وگوهای طولانی‌مدت خبر داد، جایی که احتمال تضعیف трениینگ‌های ایمنی وجود دارد. این پرونده در شرایطی مطرح می‌شود که هفت شکایت دیگر نیز درباره نقش ChatGPT در مسائل مرتبط با خودکشی در دادگاه‌های کالیفرنیا ثبت شده است.
