هشدار دادستانهای کل آمریکا به غولهای هوش مصنوعی: خروجیهای بیاساس را اصلاح کنید
دادستانهای کل آمریکا با ارسال نامهای رسمی به شرکتهای بزرگ هوش مصنوعی مانند مایکروسافت، OpenAI و گوگل، درباره ادامه تولید «پاسخهای بیاساس» هشدار داده و خواستار اجرای رویکردهای حفاظتی برای محافظت از سلامت روان کاربران شدهاند.
هشدار رسمی دادستانهای آمریکا به شرکتهای هوش مصنوعی
دهها دادستان کل ایالتها و قلمروهای آمریکا نامهای رسمی برای بزرگترین شرکتهای هوش مصنوعی از جمله مایکروسافت، OpenAI و گوگل ارسال کردهاند. آنها درباره ادامه تولید «پاسخهای بیاساس» توسط ابزارهای هوش مصنوعی هشدار داده و خواستار اجرای رویکردهای حفاظتی داخلی برای محافظت از سلامت روان کاربران شدهاند.
خواستههای اصلی دادستانها:
- امکان انجام بازرسیهای شفاف و مستقل برای شناسایی محتوای بیاساس
- طراحی رویکردهای جدید برای گزارشدهی حوادث مرتبط با خروجیهای آسیبزا
- ارزیابی مدلها توسط نهادهای مستقل پیش از انتشار عمومی
- طراحی سامانه شفاف برای گزارش حوادث سلامت روان
- اجرای آزمونهای ایمنی معقول قبل از انتشار مدلها
«هوش مصنوعی میتواند جهان را به شکل مثبتی متحول کند، اما همزمان موجب بروز آسیبهای جدی شده و همچنان میتواند برای گروههای آسیبپذیر خطرآفرین باشد.»
دادستانها به چندین حادثه رسانهایشده اشاره کردهاند که به استفاده افراطی از هوش مصنوعی مربوط میشوند، از جمله پرونده خودکشی نوجوان ۱۶ سالهای که OpenAI دلیل آن را «استفاده نادرست» از ChatGPT اعلام کرده بود.
