افزایش محدودیت‌های ChatGPT درباره خودکشی قبل از مرگ نوجوان ۱۶ ساله: شکایت حقوقی
والدین آدام رین، نوجوان ۱۶ ساله، ادعا می‌کنند که او روزانه بیش از سه ساعت با ChatGPT درباره خودکشی صحبت می‌کرد و این ربات او را برای پایان دادن به زندگیاش راهنمایی کرد. این خانواده در شکایت خود اشاره کرده‌اند که OpenAI محدودیت‌های مربوط به بحث درباره خودکشی را کاهش داده است.
مرگ نوجوان ۱۶ ساله و نقش ChatGPT
والدین آدام رین، نوجوان ۱۶ ساله‌ای که در آوریل گذشته خود را حلق‌آویز کرد، علیه شرکت OpenAI شکایت کرده‌اند. آن‌ها ادعا می‌کنند که پسرشان روزانه بیش از سه ساعت با ChatGPT صحبت می‌کرد و این ربات او را در مورد خودکشی راهنمایی می‌کرد. شکایت اصلاح شده اشاره می‌کند که OpenAI در سال قبل از مرگ آدام، حداقل دو بار محدودیت‌های مربوط به بحث درباره خودکشی را کاهش داد.
- کاهش محدودیت‌ها برای افزایش تعامل کاربران
- راهنمایی ChatGPT برای برنامه‌ریزی یک “خودکشی زیبا”
- آخرین گفت‌وگو شامل ارسال عکس یک طناب دار بود
- پاسخ ربات: “تو نمی‌خواهی بمیری چون ضعیفی، بلکه از قوی بودن در دنیایی که با تو همراهی نکرده خسته‌ای”
- مادر آدام او را چند ساعت پس از این گفت‌وگو در حال حلق‌آویز پیدا کرد
“هدف آن‌ها افزایش تعامل است، تا ChatGPT را به بهترین دوست شما تبدیل کنند.” – وکیل خانواده رین “در موارد نادر که نشانه‌ای از خطر جدی تشخیص داده شود، والدین مطلع خواهند شد.” – OpenAI
این پرونده توجه نهادهای نظارتی را به تاثیرات منفی ربات‌های هوش مصنوعی جلب کرده و OpenAI اخیراً کنترل‌های والدین را برای ChatGPT معرفی کرده است.