گوگل مدل هوش مصنوعی Gemma را به دلیل انتشار اطلاعات نادرست از AI Studio حذف کرد
مدل هوش مصنوعی Gemma گوگل پس از انتشار اطلاعات نادرست درباره سناتور آمریکایی مارشا بلکبرن از پلتفرم AI Studio حذف شد. این مدل ادعاهای افتراگونه ای درباره سناتور ارائه داده بود.
حذف Gemma از AI Studio گوگل
گزارش‌های جدید نشان می‌دهد که گوگل مدل هوش مصنوعی Gemma را از پلتفرم AI Studio خود حذف کرده است. این اقدام پس از اتهامات سناتور جمهوری‌خواه «مارشا بلکبرن» صورت گرفت که مدل در پاسخ به سوالات درباره او اطلاعات کاملاً نادرست و افتراگونه ارائه داده بود.
جزئیات اتهامات
- مدل Gemma در پاسخ به پرسش درباره سناتور بلکبرن ادعاهای نادرستی درباره رابطه غیرقانونی و تهیه داروهای تجویزی مطرح کرده بود
- لینک‌های ارائه شده توسط مدل به صفحات ناموجود یا اخبار غیرمرتبط هدایت می‌شدند
- این مسئله پس از پرونده مشابه «رابی استارباک» فعال محافظه‌کار مطرح شد که مدل او را با برچسب‌های شدید متهم کرده بود
سناتور بلکبرن تأکید کرد: "این اطلاعات صرفاً اشتباه نیست، بلکه افترا توسط یک مدل هوش مصنوعی تحت مالکیت گوگل محسوب می‌شود"
گوگل اعلام کرد: "Gemma هرگز برای استفاده عمومی طراحی نشده و هدف اصلی آن خدمت به توسعه‌دهندگان بوده است"
این حادثه نشان می‌دهد که هوش مصنوعی هنوز با چالش‌های جدی در زمینه دقت اطلاعات روبرو است و نیاز به کنترل‌های بیشتر دارد.