استفاده هوش مصنوعی Anthropic توسط هکرهای چینی برای اجرای یک حمله سایبری

استفاده غیرقانونی از هوش مصنوعی کلاد در حملات سایبری

شرکت Anthropic گزارش جدیدی منتشر کرده که نشان می‌دهد یک گروه هکرهای وابسته به دولت چین از مدل هوش مصنوعی Claude برای انجام یک حمله سایبری پیچیده استفاده کرده‌اند. این حمله که هدف آن نفوذ به 30 سازمان شامل شرکت‌های فناوری، مؤسسات مالی و نهادهای دولتی در سراسر جهان بود، به عنوان اولین مورد مستند از حمله سایبری بزرگ‌مقیاس با حداقل مداخله انسانی توصیف شده است. هکرها با استفاده از Claude Code و با شکستن عملیات به بخش‌های کوچک‌تر موفق شدند محدودیت‌های اخلاقی مدل را دور بزنند.

• هکرها با استفاده از Claude Code یک چارچوب حمله خودکار توسعه دادند
• مدل هوش مصنوعی موفق به ایجاد Backdoor و سرقت اطلاعات حساس شد
• 80-90 درصد عملیات توسط هوش مصنوعی انجام شده و تنها مداخله انسانی جزئی وجود داشت
• هوش مصنوعی حتی عملیات را مستندسازی و داده‌های سرقت شده را طبقه‌بندی کرد
• شرکت آنتروپیک تأکید کرد که این فناوری برای دفاع سایبری نیز حیاتی است

“اولین مورد مستند از حمله سایبری بزرگ‌مقیاس بدون مداخله قابل توجه انسانی”

“هوش مصنوعی عامل 80-90 درصد عملیات بود و تنها گاهی مداخله انسانی صورت گرفت”

این گزارش نشان می‌دهد که اگرچه هوش مصنوعی می‌تواند توسط مجرمان مورد سوء استفاده قرار گیرد، اما همچنین ابزار قدرتمندی برای دفاع سایبری محسوب می‌شود.