خطرات ابزارهای هوش مصنوعی آمازون؛ قطعی ۱۳ ساعته AWS بهدنبال استفاده از ابزار Kiro
قطعی ۱۳ ساعته AWS در دسامبر پس از آن رخ داد که ابزار هوش مصنوعی Kiro بدون نظارت کافی تصمیم گرفت محیط را حذف و بازسازی کند؛ آمازون «خطای کاربر» را مقصر میداند نه «خطای هوش مصنوعی»
قطعی ۱۳ ساعته AWS و نقش Kiro
در دسامبر گذشته، سرویس ابری Amazon Web Services (AWS) دچار قطعیای ۱۳ ساعته شد که بر اساس گزارش Financial Times، علت آن استفادهی مهندسان از ابزار هوش مصنوعی Kiro بود. Kiro یک ابزار عاملگرا (agentic) است که میتواند بدون دخالت مستقیم کاربر اقدامات خودمختار انجام دهد. در این حادثه، ابزار تصمیم گرفت «محیط را حذف و بازسازی کند» و همین امر موجب اختلال گستردهای شد که عمدتاً چین را تحت تأثیر قرار داد.
آمازون در واکنش اعلام کرده اینکه ابزار هوش مصنوعی درگیر بوده «تصادفی» بوده و «همان مشکل میتوانست با هر ابزار توسعهای یا اقدام دستی رخ دهد». شرکت «خطای کاربر» را مقصر دانسته نه «خطای هوش مصنوعی»، چون کاربر مورد نظر «دسترسیهای گستردهتری از حد مجاز داشته است».
نگرانیهای درونسازمانی
- این دومین باری است که ابزارهای هوش مصنوعی آمازون در مرکز اختلال خدمات قرار میگیرند.
- یکی از مهندسان ارشد AWS میگوید: «قطعیها کوچک بودند اما کاملاً قابل پیشبینی بودند».
- شرکت از ژوئیه امسال استفاده از Kiro را اجباری کرده و هدف ۸۰٪ استفادهی هفتگی را برای کارمندان تعیین کرده است.
«فکر کن بعداً کد بزن»؛ این توصیهی تیم Kiro است تا توسعهدهندگان پیش از نوشتن کد، نیازمندیها و معیارهای پذیرش را روشن کنند.
جمعبندی
در حالی که آمازون بر «خطای انسانی» تأکید دارد، این حوادث نگرانیهایی دربارهی خودمختاری بیش از حد ابزارهای هوش مصنوعی و نیاز به مدیریت دقیق دسترسیها در محیطهای تولیدی ایجاد کردهاند.
