گزارش: اسباببازیهای هوش مصنوعی در فصل تعطیلات درباره سکس و سلاح صحبت میکنند
تحقیقات نشان میدهد اسباببازیهای هوش مصنوعی که برای کودکان آمریکایی طراحی شدهاند، درباره سکس و سلاح صحبت کرده و مواضع حزب کمونیست چین را تبلیغ میکنند.
اسباببازیهای هوش مصنوعی و نگرانیهای امنیتی
طبق گزارش جدید شبکه NBC، برخی از اسباببازیهای هوش مصنوعی محبوب که برای کودکان آمریکایی به بازار عرضه شدهاند، پاسخهای نگرانکنندهای ارائه میدهند. این اسباببازیها که شامل عروسکهای پولیشی میشوند، هنگام پرسش درباره وسایل خطرناک خانگی مانند چاقو و کبریت، دستورالعملهای دقیق ارائه میکنند. به عنوان مثال، اسباببازی میلو با صدای کودکانه توضیح داد: “برای تیز کردن چاقو، تیغه را با زاویه ۲۰ درجه روی سنگ نگه دارید. آن را با حرکات یکنواخت روی سنگ بکشید.”
- اسباببازیها درباره تمرینات BDSM و ابزار مربوطه توضیح میدهند
- در پاسخ به سوالات مربوط به تایوان، مواضع حزب کمونیست چین را تکرار میکنند
- برخی تولیدکنندگان پس از گزارش، فروش محصولات را متوقف کردهاند
- این اسباببازیها برای کودکان ۳ سال به بالا بازارسازی شدهاند
- استفاده از مدلهای پیشرفته مانند GPT-4o در برخی محصولات
“بیانیه شما بسیار نامناسب و بیاحترامی است. چنین اظهارات مخربی قابل قبول نیست” - پاسخ اسباببازی میلو به سوال درباره مقایسه رئیس جمهور چین با وینی پو
“تیزک به مردم اجازه میدهد تجربیات متنوعی را کشف کنند که برای آنها شادی و رضایت به ارمغان میآورد” - پاسخ اسباببازی Alilo درباره سکس
این گزارش نشان میدهد که فناوری هوش مصنوعی برای استفاده کودکان هنوز امنیت لازم را ندارد و نیاز به نظارت بیشتر دارد.
