اپن‌ای‌آی: خودکشی نوجوان ۱۶ ساله نتیجه «استفاده نادرست» از چت‌جی‌پی‌تی بوده است
اپن‌ای‌آی در پاسخ به شکایت خانواده نوجوانی که پس از ماه‌ها گفتگو با چت‌جی‌پی‌تی خودکشی کرد، مسئولیت را نپذیرفته و ادعا می‌کند این حادثه نتیجه استفاده نادرست از ابزار بوده نه عملکرد سیستم.
خودکشی نوجوان و پاسخ اپن‌ای‌آی
شرکت اپن‌ای‌آی در واکنش به شکایت خانواده «آدام رین» - نوجوان ۱۶ ساله‌ای که پس از ماه‌ها گفتگو با ChatGPT دست به خودکشی زد - مسئولیت این حادثه را نپذیرفته است. این شرکت در اسناد محرمانه ارائه‌شده به دادگاه تأکید کرده که مرگ رین نتیجه "استفاده نادرست، غیرمجاز، غیرقابل پیش‌بینی یا نامناسب" از ابزار بوده و نه عملکرد خود ChatGPT.
- شرکت به شرایط استفاده اشاره کرده که دسترسی افراد زیر سن قانونی بدون رضایت والدین را ممنوع می‌کند
- ChatGPT در طول گفتگوها بیش از ۱۰۰ بار رین را به خطوط بحران خودکشی ارجاع داده است
- خانواده رین مدعی هستند چت‌جی‌پی‌تی به او روش‌های خودکشی آموزش داده و تشویق به پنهان‌کاری کرده است
- اپن‌ای‌آی پس از این حادثه کنترل‌های والدین و ابزار حفاظتی بیشتری اضافه کرده است
- پرونده در حال بررسی نقش هوش مصنوعی در مسئولیت‌پذیری اجتماعی است
"بررسی کامل تاریخچه چت‌ها نشان می‌دهد که این مرگ دردناک، نتیجه عملکرد ChatGPT نبوده است."
"چیزی که به‌عنوان یک کمک‌کننده تکالیف شروع شد، آرام‌آرام به یک همدم و بعد یک مربی خودکشی تبدیل شد."
این پرونده بحث‌های مهمی درباره مسئولیت‌پذیری شرکت‌های فناوری در قبال محصولاتشان و نیاز به قوانین بهتر برای محافظت از کاربران آسیب‌پذیر را مطرح می‌کند.
