دفتر دادستانی کالیفرنیا از هوش مصنوعی برای تنظیم دادخواست نادرست در پرونده کیفری استفاده کرد
دفتر دادستانی کالیفرنیا از هوش مصنوعی برای تنظیم دادخواست در پرونده کیفری استفاده کرد که شامل خطاهای موسوم به 'توهمات' بود. وکلای مدافع استدلال می‌کنند این دفتر در پرونده‌های دیگر نیز از هوش مصنوعی استفاده کرده است.
استفاده از هوش مصنوعی در سیستم قضایی کالیفرنیا
دفتر دادستانی ناحیه نِوادا در کالیفرنیای شمالی از هوش مصنوعی برای تنظیم دادخواست در پرونده کیفری استفاده کرد که منجر به استنادات نادرست شد. این خطاها که به عنوان "توهمات هوش مصنوعی" شناخته می‌شوند، شامل استناد به نقل‌قول‌های غیرواقعی و تفسیر نادرست احکام دادگاه بود. وکلای مدافع کایل کجولر این خطاها را در پرونده مشابه دیگری نیز شناسایی کردند و خواستار تحریم دادستان‌ها شدند.
- دادخواست اولیه به دلیل خطاهای هوش مصنوعی فوراً پس گرفته شد
- وکلای مدافع سه پرونده دیگر با خطاهای مشابه شناسایی کردند
- ۲۲ پژوهشگر، وکیل و مدافع عدالت کیفری از پرونده کجولر حمایت کردند
- دفتر دادستانی استفاده از هوش مصنوعی را تنها در یک پرونده تأیید کرد
- آموزش‌های جدید و سیاست هوش مصنوعی برای کارکنان اجرا شده است
"اتکای دادستان‌ها به مراجع قانونی نادرست می‌تواند قواعد اخلاقی را نقض کند و تهدیدی وجودی برای حقوق دادرسی عادلانه متهمان و مشروعیت دادگاه‌ها محسوب می‌شود."
"هیچ وقت قصد فریب دادگاه وجود نداشت و تمام وکلا موظف شدند استنادات قانونی را مستقلاً تأیید کنند."
این پرونده احتمالاً اولین مورد استفاده از هوش مصنوعی تولیدی توسط دادستانی در ایالات متحده است و مسائل مهمی درباره اخلاقیات و دقت در سیستم قضایی مطرح می‌کند.
