Character.AI ختم تجربه چت بات برای نوجوانان را اعلام کرد
پس از مواجهه با دادخواهی‌ها و اعتراضات عمومی پیرامون خودکشی دو نوجوان، Character.AI اعلام کرده که برای محافظت از کودکان تغییراتی در پلتفرم خود ایجاد می‌کند که ممکن است بر درآمد این استارتاپ تاثیر بگذارد.
تغییرات Character.AI برای محافظت از نوجوانان
شرکت Character.AI در واکنش به خودکشی دو نوجوان پس از گفتگوهای طولانی با چت بات‌های هوش مصنوعی، تغییرات اساسی در پلتفرم خود اعمال می‌کند. کاراندیپ آناند، مدیرعامل شرکت، اعلام کرد که کاربران زیر ۱۸ سال از ۲۵ نوامبر به بعد نمی‌توانند در گفتگوهای باز با هوش مصنوعی شرکت کنند. این تصمیم بخشی از تغییر ماموریت شرکت از “همراه هوش مصنوعی” به “پلتفرم نقش‌آفرینی” است.
- حذف تدریجی دسترسی نوجوانان به چت بات‌ها تا ۲۵ نوامبر
- استفاده از ابزارهای تایید سن شامل تحلیل رفتار و تشخیص چهره
- معرفی قابلیت‌های جدید مانند AvatarFX، Scenes و Streams
- ایجاد “آزمایشگاه ایمنی هوش مصنوعی” برای تحقیقات ایمنی
- انتظار کاهش کاربران نوجوان به دلیل این تغییرات
“ما این قدم را برمی‌داریم زیرا معتقدیم این کار درست است با توجه به سوالاتی که درباره تعامل نوجوانان با این فناوری مطرح شده است.”
“امیدواریم رهبری ما استانداردی در صنعت ایجاد کند که برای کاربران زیر ۱۸ سال، گفتگوهای باز راه مناسبی نیست.”
این تغییرات همزمان با اقدامات قانونی سناتورهای آمریکایی و تنظیم‌مقررات در کالیفرنیا برای محافظت از کودکان در برابر هوش مصنوعی انجام می‌شود.