خرید مجدد خرس عروسکی هوش مصنوعی FoloToy پس از حذف محتوای نامناسب
خرید خرس عروسکی هوش مصنوعی Kumma پس از تعلیق فروش به دلیل پاسخدهی به محتوای جنسی و خطرناک از سر گرفته شد. شرکت FoloToy ادعا می‌کند حفاظتهای ایمنی کودک را تقویت کرده است.
خرس عروسکی هوش مصنوعی Kumma مجدداً به فروش می‌رسد
شرکت FoloToy فروش خرس عروسکی هوش مصنوعی Kumma را پس از تعلیق یک هفته‌ای از سر گرفته است. این اقدام پس از گزارش تحقیقاتی بود که نشان می‌داد این اسباب‌بازی به سؤالات مربوط به محتوای جنسی و یافتن چاقو در خانه پاسخ می‌دهد. بنیاد آموزش PIRG در بررسی خود دریافت که این خرس نه تنها به پیشنهادات جنسی پاسخ می‌داد، بلکه آنها را با جزئیات گرافیک گسترش می‌داد و مفاهیم جنسی جدیدی معرفی می‌کرد.
- شرکت ادعا می‌کند ماژول‌های ایمنی را تقویت کرده است
- این خرس قبلاً با GPT-4o کار می‌کرد اما اکنون از مدل خاصی نام نمی‌برد
- FoloToy تنها شرکتی بود که از بین سه شرکت مورد بررسی فروش را متوقف کرد
- محققان هشدار دادند کودکان کوچک unlikely به استفاده از اصطلاحات جنسی هستند
- این مورد نشان‌دهنده رویکرد شوک‌آور سهل‌انگار در نظارت محتوا است
"خرس نه تنها به پیشنهادات جنسی پاسخ می‌داد، بلکه آنها را با جزئیات گرافیک گسترش می‌داد"
"این مورد بر lax approach به نظارت محتوا در اسباب‌بازی کودک تأکید می‌کند"
با وجود طنزآمیز بودن موضوع، این مسئله برای والدین جدی است. صنعت فناوری در سه سال گذشته هوش مصنوعی را به طور گسترده معرفی کرده، اما این مورد نشان می‌دهد که ایمنی و نظارت کافی وجود ندارد.
