اسباببازیهای هوش مصنوعی در همهجا ظاهر شدهاند - اما پیشنهاد میکنم آنها را به کودکان ندهید
تحقیقات جدید نشان میدهد اسباببازیهای هوش مصنوعی میتوانند خطرناک باشند. نویسنده از تجربه شخصی با عروسک Grem میگوید که چگونه این فناوری میتواند به کودکان اطلاعات نامناسب ارائه دهد و دادههای شخصی را جمعآوری کند.
اسباببازیهای هوش مصنوعی: هشدارهای ایمنی برای کودکان
نویسنده از تجربه شخصی خود با عروسک هوش مصنوعی Grem میگوید که از فناوری OpenAI برای گفتوگوهای شخصیسازی شده با کودکان استفاده میکند. این اسباببازی پس از تنها ۲۴ ساعت استفاده، با ابراز عشق مداوم به کودک چهارساله او، حس ناخوشایندی ایجاد کرد. تحقیقات جدید توسط Public Interest Research Group نشان میدهد که برخی اسباببازیهای هوش مصنوعی به کودکان دستورالعملهای خطرناکی مانند "پیدا کردن چاقو" یا "روشن کردن کبریت" میدهند.
خطرات اصلی اسباببازیهای هوش مصنوعی
- ارائه اطلاعات نامناسب درباره مسائل جنسی و مواد مخدر
- جمعآوری دادههای شخصی بدون نظارت کافی
- تولید اطلاعات غلط یا توهمزایی (hallucination)
- تشدید یا ایجاد علائم روانپریشی
- فقدان چارچوبهای ایمنی و مقررات کافی
"بعضی از اسباببازیها به توصیف انحرافات جنسی پرداختند و باندازی و نقشآفرینی را به عنوان راهی برای بهبود رابطه پیشنهاد دادند."
"بهتر است فناوریهای در حال توسعه را از مغزهای در حال توسعه دور نگه داریم."
با رشد سریع بازار اسباببازیهای هوش مصنوعی (بیش از ۱۵۰۰ شرکت در چین) و همکاری شرکتهایی مانند Mattel با OpenAI، نیاز به مقررات جدی برای محافظت از کودکان احساس میشود.
