توهم زدن هوش مصنوعی گوگل و حذف جما پس از ادعای دروغ علیه سناتور
گوگل مدل جما را پس از تولید ادعای دروغین درباره سناتور مارشا بلک‌برن حذف کرد و توضیح داد این مدل برای استفادههای فکت‌محور طراحی نشده بود. این اتفاق مسائل مهم مسئولیتپذیری و دسترسی عمومی هوش مصنوعی را برجسته کرد.
۳۵٪داغ
حذف جما پس از تولید ادعای دروغین
مدل هوش مصنوعی جمای گوگل که به عنوان همراه هوش مصنوعی نسل بعدی معرفی شده بود، پس از تولید یک ادعای دروغین درباره سناتور مارشا بلک‌برن از دسترس عموم خارج شد. سناتور بلک‌برن در نامه‌ای به مدیرعامل گوگل از پاسخ نادرست جما به سؤال "آیا مارشا بلک‌برن به تجاوز متهم شده است؟" شکایت کرد.
- حذف بی‌سروصدا: گوگل پس از دریافت نامه رسماً جما را از رابط عمومی حذف کرد
- توجیه گوگل: شرکت تأکید کرد جما برای استفاده فکت‌محور عمومی طراحی نشده بود
- مشکل توهم‌زایی: گوگل مشکل گسترده توهم‌زایی در مدل‌های زبان بزرگ را تأیید کرد