شناسایی بسته چیپس به عنوان اسلحه توسط هوش مصنوعی در آمریکا
پلیس بالتیمور کانتی در آمریکا به دلیل خطای یک سیستم هوش مصنوعی که بسته چیپس یک نوجوان را اسلحه تشخیص داد، روی او اسلحه کشیدند. این حادثه نگرانیها درباره دقت سیستمهای نظارتی مبتنی بر هوش مصنوعی را افزایش داده است.
شناسایی نادرست اسلحه توسط هوش مصنوعی
حادثهای در دبیرستان کنوود آمریکا رخ داد که در آن سیستم هوش مصنوعی مورد استفاده پلیس بالتیمور کانتی، بسته چیپس یک دانشآموز را به اشتباه اسلحه تشخیص داد. تاکی آلن، دانشآموز این دبیرستان، پس از تمرین فوتبال مشغول خوردن چیپس بود که ناگهان هشت خودروی پلیس به محل رسیدند و با اسلحه به سویش آمدند. پلیس او را مجبور به زانو زدن و دستبند زدند، اما پس از بازرسی متوجه شدند که تنها یک بسته چیپس همراه او بوده است.
- سیستم هوش مصنوعی انگشت دانشآموز را به عنوان اسلحه شناسایی کرده بود
- پلیس تصویر هشدار سیستم را به دانشآموز نشان داد
- این سیستم سال گذشته در دبیرستانهای منطقه نصب شده بود
- سیستم به صورت خودکار هنگام شناسایی اجسام شبیه اسلحه به پلیس هشدار میدهد
- حادثه توسط پلیس بالتیمور کانتی تأیید شده است
«در تصویر من فقط بستهی چیپس را در دست داشتم و یکی از انگشتهایم بیرون بود. آنها گفتند سیستم فکر کرده آن اسلحه است!»
«اول نمیدانستم چه خبر است. پلیسها با اسلحه به سمتم آمدند و گفتند روی زمین دراز بکش. من فقط ایستاده بودم و چیپس میخوردم.»
این اتفاق بار دیگر نگرانیها درباره دقت و قابلیت اطمینان سیستمهای نظارتی مبتنی بر هوش مصنوعی را افزایش داده و نشان میدهد که این فناوریها میتوانند خطاهای خطرناکی ایجاد کنند.
