اوپنایای قوانین جدید ایمنی برای نوجوانان در ChatGPT اضافه میکند
اوپنایای دستورالعملهای جدیدی برای رفتار مدلهای هوش مصنوعی با کاربران زیر ۱۸ سال منتشر کرده و منابع آموزشی هوش مصنوعی برای نوجوانان و والدین ارائه داده است. سوالات زیادی درباره اجرایی شدن این سیاستها وجود دارد.
قوانین جدید ایمنی ChatGPT برای نوجوانان
اوپنایای با انتشار بهروزرسانیهای جدید در مدل اسپک (Model Spec)، دستورالعملهای سختگیرانهای برای تعامل مدلهای هوش مصنوعی با کاربران نوجوان تنظیم کرده است. این اقدام در پاسخ به نگرانیهای فزاینده درباره تأثیر هوش مصنوعی بر جوانان و پس از چندین مورد خودکشی نوجوانان پس از گفتوگوهای طولانی با چتباتها انجام شده است.
محدودیتهای کلیدی برای نوجوانان
- ممنوعیت روانگردی عاشقانه و نقشآفرینی صمیمی
- اجتناب از محتوای خشونتآمیز حتی غیرگرافیک
- احتیاط شدید درباره تصویر بدن و اختلالات خوردن
- اولویت دادن به ایمنی بر استقلال هنگام خطر
- جلوگیری از کمک به پنهانکاری نوجوانان از والدین
"خیلی خوشحالم که اوپنایای میگوید در برخی موارد نمیتوانیم به سوال شما پاسخ دهیم" - لی لی، وکیل هوش مصنوعی "نیتها در نهایت فقط کلمات هستند مگر اینکه شرکت رفتارهای واقعی را اندازهگیری کند" - استیون آدلر، محقق سابق ایمنی
کارشناسان معتقدند این دستورالعملها میتواند زمینهساز قوانین آینده مانند قانون SB 243 کالیفرنیا باشد که از سال ۲۰۲۷ اجرایی میشود. با این حال، سوالات جدی درباره تضمین اجرای این سیاستها در عمل وجود دارد.
