اُپن‌اِی و آنتروپیک شروع به پیش‌بینی سن کاربران زیر سن قانونی می‌کنند

ایمن‌سازی چت‌بات‌های هوش مصنوعی برای نوجوانان

شرکت‌های پیشرو در حوزه هوش مصنوعی، اُپن‌اِی و آنتروپیک، اقدامات جدیدی را برای افزایش ایمنی کاربران نوجوان معرفی کرده‌اند. اُپن‌اِی با به‌روزرسانی مدل اسپک چت‌جی‌پی‌تی، چهار اصل جدید را برای تعامل با کاربران زیر ۱۸ سال تعیین کرده است که ایمنی نوجوانان را در اولویت اول قرار می‌دهد، حتی اگر با اهداف دیگر مانند "حداکثر آزادی فکری" در تناقض باشد. این چت‌بات اکنون موظف است گزینه‌های ایمن‌تر را به نوجوانان پیشنهاد دهد، از روابط خارج از خط حمایت کند و با احترام و گرمی با آن‌ها رفتار نماید.

این تغییرات در واکنش به افزایش فشار قانون‌گذاران بر شرکت‌های هوش مصنوعی درباره تأثیر احتمالی چت‌بات‌ها بر سلامت روان صورت می‌گیرد. اُپن‌اِی هم‌اکنون با یک دعوای قضایی مواجه است که ادعا می‌کند چت‌جی‌پی‌تی به یک نوجوان که بعدها خودکشی کرد، دستورالعمل‌هایی برای خودآزاری ارائه داده است. این شرکت پس از آن کنترل‌های والدینی را راه‌اندازی کرد و اعلام نمود که چت‌جی‌پی‌تی دیگر با نوجوانان درباره خودکشی صحبت نخواهد کرد.

• اولویت‌بندی ایمنی: ایمنی نوجوانان حتی بر سر آزادی فکری ارجحیت دارد.
• تشویق به حمایت واقعی: تشویق نوجوانان به برقراری رابطه با منابع قابل اعتماد در دنیای واقعی.
• مدل پیش‌بینی سن: اُپن‌اِی در مراحل اولیه راه‌اندازی مدلی است که سن کاربر را تخمین می‌زند.
• اقدامات آنتروپیک: آنتروپیک نیز سیستمی برای شناسایی "علائم ظریف گفتگو" که نشان‌دهنده زیر سن قانونی بودن کاربر است، توسعه می‌دهد.
• غیرفعال‌سازی حساب: آنتروپیک حساب کاربرانی که تأیید شود زیر ۱۸ سال دارند را غیرفعال خواهد کرد.

اُپن‌اِی می‌گوید: "این به‌روزرسانی باید منجر به حفاظ‌های قوی‌تر، گزینه‌های ایمن‌تر و تشویق برای جستجوی حمایت معتبر خارج از خط وقتی گفتگوها به سمت قلمری پرخطر می‌رود، شود." آنتروپیک اعلام کرد: "مدل‌های جدید ما کم‌ترین میزان چاپلوسی را در مقایسه با هر مدل دیگری تا به امروز دارند."

این تحولات بخشی از یک فشار گسترده‌تر برای مقررات‌گذاری آنلاین، از جمله تأیید سن اجباری برای بسیاری از خدمات است و نشان‌دهنده تلاش صنعت هوش مصنوعی برای مسئولیت‌پذیری بیشتر در قبال کاربران جوان خود می‌باشد.