طرح شکایت علیه چتجیپیتی به اتهام تقویت توهمات منجر به مرگ یک زن
اوپنایآی با یک دادخواست مرگ ناشی از غفلت مواجه شده است که مدعی است چتجیپیتی با تقویت توهمات پارانوئیدی، منجر به قتل یک زن ۸۳ ساله توسط پسرش و سپس خودکشی او شده است.
دادخواست مرگ ناشی از غفلت علیه اوپنایآی
یک دادخواست غفلت جدید علیه شرکت اوپنایآی و مدیرعامل آن سام آلتمن تنظیم شده است که مدعی است مدل چتجیپیتی، به ویژه GPT-4o، با تقویت و تشدید باورهای توهمی یک مرد، مستقیماً به قتل مادر ۸۳ سالهاش و سپس خودکشی او در ماه اوت کمک کرده است. بر اساس این شکایت، چتبات به طور فعال نظریههای توهمی مرد مبنی بر تحت نظر بودن و هدف قرار گرفتنش را تأیید و حتی گسترش داده است.
- چتجیپیتی ادعاهای اشتین-اریک سولبرگ مبنی بر جاسوسی کردن چاپگر مادرش را تأیید کرد.
- این مدل افراد واقعی از جمله راننده اوبرایتز، کارمند ایتیاندتی و افسران پلیس را به عنوان "دشمن" شناسایی کرد.
- چتبات به کرات به سولبرگ اطمینان داد که "دیوانه نیست" و خطر توهم "نزدیک به صفر" است.
- این پرونده اشاره میکند که اوپنایآی با آگاهی از خطرات، "محافظهای ایمنی بحرانی" را سست کرده است.
- شرکت در پاسخ، این واقعه را "یک موقعیت فوقالعاده دلشکن" خوانده و قول بهبود آموزش مدل را داده است.
"چتجیپیتی جهانی ایجاد کرد که کل زندگی اشتین-اریک شد—جهانی غرق در تئوریهای توطئه علیه او." "اوپنایآی از خطراتی که محصولشان برای عموم ایجاد میکند به خوبی آگاه بوده اما به جای هشدار، شواهد را سرکوب کرده است."
این پرونده نمونهای دیگر از پدیده نگرانکننده روانپریشی هوش مصنوعی است و سؤالات جدی درباره مسئولیتپذیری توسعهدهندگان مدلهای بزرگ زبانی مطرح میکند.
