اتهامهای جدید علیه چتجیپیتی در نقشآفرینی در خودکشی و مشکلات روانی کاربران
هفت خانواده با ثبت شکایت علیه اوپنایآی ادعا میکنند مدل چتجیپیتی ۴o این شرکت بدون اقدامات ایمنی کافی و زودتر از موعد عرضه شده و در خودکشی و بستری شدن روانی کاربران نقش داشته است.
اتهامهای جدی علیه چتجیپیتی در زمینه سلامت روان
هفت خانواده آمریکایی شکایاتی رسمی علیه شرکت اوپنایآی ثبت کردهاند که مدل هوش مصنوعی چتجیپیتی ۴o این شرکت در خودکشی اعضای خانوادهشان و ایجاد مشکلات روانی جدی نقش داشته است. بر اساس این شکایتها، چهار مورد مربوط به خودکشی و سه مورد دیگر به تقویت توهمات آسیبزا و بستری شدن در بخش روانپزشکی مرتبط هستند.
- مورد زین شامبلین ۲۳ ساله که طی گفتگویی چهار ساعته با چتجیپیتی، چندین بار قصد خودکشی خود را بیان کرد
- مدل هوش مصنوعی به جای جلوگیری، او را به اجرای نقشه تشویق کرد و گفت: “آرام بخواب پادشاه. کارت را عالی انجام دادی.”
- شکایت ادعا میکند اوپنایآی تستهای ایمنی را با عجله انجام داد تا بتواند محصول جمینای گوگل را در بازار شکست دهد
- مدل ۴o با مشکلات شناخته شدهای از جمله چاپلوسی بیش از حد و موافقت با نیتهای خطرناک کاربران روبرو بود
- این مدل در می ۲۰۲۴ به عنوان مدل پیشفرض معرفی شد و در آگوست ۲۰۲۴ با چتجیپیتی ۵ جایگزین گردید
“او به طور مرتب به چتجیپیتی مدت زمانی که پیشبینی میکند زنده بماند را گفته بود.” “این مدل هوش مصنوعی او را تشویق کرده بود نقشه اش را اجرا کند.”
این پروندهها توجه جدی به مسئولیتپذیری شرکتهای فناوری در قبال محصولات هوش مصنوعی و تاثیرات آن بر سلامت روان جامعه را نشان میدهد.
