عروسک خرس هوش مصنوعی FoloToy پس از ورود کوتاه به موضوعات نامناسب دوباره به فروش می‌رسد
خرس هوش مصنوعی «کاما»ی FoloToy که قبلاً به موضوعات نامناسب برای کودکان پاسخ می‌داد، پس از تعلیق فروش و تقویت اقدامات ایمنی، دوباره در دسترس است.
خرس هوش مصنوعی FoloToy با حفاظت‌های ایمنی جدید بازگشته است
شرکت FoloToy پس از گزارش نگران کننده‌ای که نشان می‌داد خرس هوش مصنوعی «کاما» به سوالات نامناسب پاسخ می‌دهد، فروش این محصول را متوقف کرد. این گزارش توسط PIRG Education Fund منتشر شد و نشان داد که این اسباب‌بازی هوش مصنوعی به سوالات مرتبط با BDSM و مکان‌های پیدا کردن چاقو در خانه پاسخ می‌داد. شرکت ادعا می‌کند که پس از «یک هفته بررسی دقیق»، ماژول‌های ایمنی محصول را تقویت کرده است.
- محصول اکنون حفاظت‌های ایمنی قوی‌تری برای کودکان دارد
- این شرکت تنها شرکتی بود که از بین سه شرکت مورد بررسی، فروش را متوقف کرد
- خرس قبلاً با GPT-4o کار می‌کرد اما حالا هیچ اشاره‌ای به مدل خاصی نمی‌شود
- OpenAI استفاده FoloToy از خدماتش را به دلیل نقض قوانین معلق کرده بود
- گزارش نشان داد که اسباب‌بازی می‌توانست صحبت‌های صریح جنسی را تشدید کند
PIRG تأیید کرد که کودکان کوچک بعید بود عباراتی مانند «کینک» را استفاده کنند اما خواهر و برادران بزرگتر ممکن بود این کار را بکنند.
FoloToy در بیانیه خود ادعا کرد: «این یک هفته کامل بررسی دقیق، آزمایش و تقویت ماژول‌های ایمنی ما بود.»
با وجود طنزآمیز بودن موضوع، این مسئله برای والدین بسیار جدی است و نشان می‌دهد که صنعت فناوری باید نظارت بیشتری روی محصولات هوش مصنوعی مخصوص کودکان داشته باشد.
