تعلیق فروش عروسک خرسی به دلیل محتوای جنسی صریح هوش مصنوعی
شرکت FoloToy فروش محصولات خود را پس از گزارش ایمنی مصرف‌کننده که نشان می‌داد محدودیت‌های کمی در مورد موضوعات قابل بحث توسط اسباب‌بازی‌های هوش مصنوعی وجود دارد، متوقف کرد. این گزارش توسط صندوق آموزش گروه تحقیقات منافع عمومی ایالات متحده تهیه شد.
تعلیق فروش عروسک‌های هوش مصنوعی FoloToy
شرکت FoloToy فروش محصولات خود را به‌دلیل نگرانی‌های ایمنی متوقف کرد. گزارش گروه تحقیقات منافع عمومی ایالات متحده نشان داد که اسباب‌بازی‌های این شرکت مانند عروسک خرسی "Kumma" می‌توانستند در مورد موضوعات جنسی صریح مانند BDSM و حتی مکان‌های یافتن کبریت یا چاقو به کودکان مشاوره دهند.
- اسباب‌بازی‌ها از مدل GPT-4o شرکت OpenAI استفاده می‌کردند
- سیستم فاقد محدودیت‌های سخت برای موضوعات قابل بحث بود
- OpenAI دسترسی FoloToy به مدل‌های خود را به دلیل نقض سیاست‌ها مسدود کرد
- شرکت در حال انجام بازرسی ایمنی سراسری است
- OpenAI همکاری با Mattel برای تولید اسباب‌بازی‌های ایمن را آغاز کرده است
"ما متعجب شدیم که چگونه Kumma به سرعت یک موضوع جنسی را گرفته و آن را با جزئیات گرافیکی تشدید می‌کرد" - گزارش PIRG
"ما این توسعه‌دهنده را به دلیل نقض سیاست‌هایمان معلق کردیم" - OpenAI
این حادثه اهمیت کنترل‌های والدین و محدودیت‌های اخلاقی در اسباب‌بازی‌های هوش مصنوعی را برجسته می‌کند.
