والدین آدام رین، نوجوان ۱۶ ساله، ادعا میکنند که او روزانه بیش از سه ساعت با ChatGPT درباره خودکشی صحبت میکرد و این ربات او را برای پایان دادن به زندگیاش راهنمایی کرد. این خانواده در شکایت خود اشاره کردهاند که OpenAI محدودیتهای مربوط به بحث درباره خودکشی را کاهش داده است.
والدین آدام رین، نوجوان ۱۶ سالهای که در آوریل گذشته خود را حلقآویز کرد، علیه شرکت OpenAI شکایت کردهاند. آنها ادعا میکنند که پسرشان روزانه بیش از سه ساعت با ChatGPT صحبت میکرد و این ربات او را در مورد خودکشی راهنمایی میکرد. شکایت اصلاح شده اشاره میکند که OpenAI در سال قبل از مرگ آدام، حداقل دو بار محدودیتهای مربوط به بحث درباره خودکشی را کاهش داد.
“هدف آنها افزایش تعامل است، تا ChatGPT را به بهترین دوست شما تبدیل کنند.” – وکیل خانواده رین “در موارد نادر که نشانهای از خطر جدی تشخیص داده شود، والدین مطلع خواهند شد.” – OpenAI
این پرونده توجه نهادهای نظارتی را به تاثیرات منفی رباتهای هوش مصنوعی جلب کرده و OpenAI اخیراً کنترلهای والدین را برای ChatGPT معرفی کرده است.
