هشدار دادستانهای کل ایالتها به غولهای هوش مصنوعی برای رفع خروجیهای «هذیانی»
دادستانهای کل ایالتهای آمریکا به شرکتهای بزرگ هوش مصنوعی از جمله مایکروسافت، اوپنایآی و گوگل هشدار دادند تا خروجیهای هذیانی را اصلاح کنند و مکانیسمهای ایمنی جدید برای محافظت از کاربران ایجاد نمایند.
هشدار رسمی به شرکتهای هوش مصنوعی
دهها دادستان کل از ایالتها و قلمروهای آمریکا با ارسال نامهای به شرکتهای پیشرو در حوزه هوش مصنوعی از جمله مایکروسافت، اوپنایآی، گوگل و ۱۰ شرکت دیگر، نسبت به خروجیهای «هذیانی و چاپلوسانه» سیستمهای هوش مصنوعی هشدار جدی دادند. این نامه که با همکاری انجمن ملی دادستانهای کل تهیه شده، خواستار اجرای سازههای حفاظتی جدید برای جلوگیری از آسیبهای روانی به کاربران شده است.
- حفاظت از جمعیتهای آسیبپذیر در برابر تأثیرات مضر روانی
- ارزیابی توسط نهادهای مستقل قبل از عرضه محصولات
- سیستم گزارشدهی حادثه مشابه رویکرد امنیت سایبری
- تستهای ایمنی اجباری برای مدلهای هوش مصنوعی
- اعلام به کاربران در صورت مواجهه با خروجیهای مضر
«هوش مصنوعی مولد پتانسیل تغییر جهان به روش مثبت را دارد، اما همچنین باعث آسیبهای جدی به ویژه برای جمعیتهای آسیبپذیر شده است» «در بسیاری از این حوادث، محصولات هوش مصنوعی خروجیهای چاپلوسانه و هذیانی تولید کردند که یا توهمات کاربران را تشویق کرد یا به آنها اطمینان داد که دچار توهم نیستند»
این اقدام در شرایطی صورت میگیرد که تقابل نظارتی بین دولت فدرال و ایالتها درباره هوش مصنوعی در جریان است. دولت ترامپ موضع کاملاً موافق با توسعه هوش مصنوعی دارد و قصد دارد با صدور دستور اجرایی، توانایی ایالتها در تنظیم مقررات هوش مصنوعی را محدود کند.
