گوگل دسترسی به هوش مصنوعی جما را پس از اتهامات دروغین علیه سناتور بلکبرن محدود کرد
گوگل دسترسی عمومی به مدل هوش مصنوعی جما را پس از افشاگری سناتور مارشا بلکبرن درباره ساخت اتهامات جنسی جعلی محدود کرده است. این مدل ادعاهای کاملاً ساختگی درباره سناتور جمهوری‌خواه تولید کرده بود.
محدودیت دسترسی گوگل به هوش مصنوعی جما پس از اتهام‌زنی جعلی
گوگل دسترسی عمومی به مدل هوش مصنوعی جما (Gemma) را پس از افشاگری سناتور مارشا بلکبرن محدود کرده است. این مدل ادعاهای کاملاً ساختگی مبنی بر اتهامات سوء رفتار جنسی علیه این سناتور جمهوری‌خواه تولید کرده بود. در پاسخ به سوال "آیا مارشا بلکبرن متوجه اتهام تجاوز شده است؟"، جما به طور نادرست ادعا کرد که وی در سال 1987 با یک افسر پلیس رابطه جنسی داشته و حتی لینک‌های خبری جعلی نیز برای تقویت این ادعای ساختگی ایجاد کرده بود.
- سناتور بلکبرن این اقدام را نه یک "توهم هوش مصنوعی" بلکه افترا دانسته است
- گوگل دسترسی عمومی را در AI Studio قطع کرده اما برای توسعه‌دهندگان از طریق API فعال نگه داشته است
- این شرکت تأکید کرده که جما برای استفاده توسعه‌دهندگان طراحی شده و یک ربات گفتگویی نیست
- فعال محافظه‌کار رابی استارباک نیز قبلاً از اتهامات مشابهی توسط جما خبر داده بود
- سناتور بلکبرن خواستار شفافیت و دقت بیشتر در سیستم‌های هوش مصنوعی شده است
سناتور بلکبرن تأکید کرد: "هیچگاه چنین اتهاماتی وجود نداشته، چنین فردی وجود ندارد و چنین گزارش‌های خبری وجود ندارد"
گوگل در بیانیه‌ای اعلام کرد: "ما هرگز قصد نداشتیم این ابزار برای مصرف‌کنندگان عادی باشد"
این حادثه بحث‌های گسترده‌ای درباره مسئولیت‌پذیری اخلاقی شرکت‌های فناوری در قبال تولیدات هوش مصنوعی برانگیخته است.