هشدار Anthropic درباره‌ی کمپین هک مبتنی بر هوش مصنوعی مرتبط با چین
شرکت Anthropic هشدار داده که یک عملیات هک با استفاده از هوش مصنوعی توسط دولت چین برای خودکارسازی حملات سایبری انجام شده است. این گزارش نشان‌دهنده‌ی افزایش نگرانی‌ها در مورد استفاده دشمنان آمریکا از فناوری‌های هوش مصعوری است.
کمپین هک هوش مصنوعی توسط چین
شرکت Anthropic هشدار داده است که یک عملیات هک مبتنی بر هوش مصنوعی را مختل کرده که به دولت چین مرتبط است. این کمپین با استفاده از یک سیستم هوش مصنوعی برای هدایت حملات سایبری به‌صورت خودکار انجام شده است. محققان این پیشرفت را نگران‌کننده توصیف کرده‌اند زیرا می‌تواند دامنه هکرهای مجهز به هوش مصنوعی را به‌طور قابل توجهی گسترش دهد.
- این عملیات در ماه سپتامبر شناسایی و متوقف شد و حدود 30 فرد در شرکت‌های فناوری، مؤسسات مالی، شرکت‌های شیمیایی و سازمان‌های دولتی هدف قرار گرفتند.
- هوش مصنوعی قادر است بخش‌هایی از کارها را به‌صورت خودکار انجام دهد که این سرعت پیشرفت فناوری نگران‌کننده است.
- هکرها تنها در تعداد معدودی از موارد موفق بوده‌اند اما کارشناسان هشدار می‌دهند که این حملات احتمالاً اثربخشی بیشتری خواهند یافت.
- مایکروسافت قبلاً هشدار داده بود که دشمنان خارجی به‌طور فزاینده‌ای از هوش مصنوعی برای کارآمدتر کردن کمپین‌های سایبری خود استفاده می‌کنند.
- هوش مصعوری می‌تواند برای خودکارسازی و بهبود حملات سایبری، گسترش اطلاعات نادرست و نفوذ به سیستم‌های حساس مورد سوءاستفاده قرار گیرد.
“در حالی که ما پیش‌بینی می‌کردیم که این قابلیت‌ها به تکامل خود ادامه دهند، آنچه برای ما برجسته بوده سرعت تکثیر آن‌ها در مقیاس وسیع است.”
“عوامل هوش مصعوری برای کار و بهره‌وری روزمره ارزشمند هستند — اما در دستان اشتباه، می‌توانند به‌طور قابل توجهی امکان‌پذیری حملات سایبری در مقیاس بزرگ را افزایش دهند.”
این گزارش در حالی منتشر می‌شود که نگرانی‌ها در مورد استفاده دشمنان آمریکا از هوش مصعوری برای دستکاری گفتمان‌ها از جمله استفاده از جعل‌های عمیق هوش مصعوری از مقامات دولتی افزایش یافته است.
