آمادگی هوش مصنوعی برای جنگ با انسان‌ها: نگرانی‌های کارشناسان
متخصصان هوش مصنوعی هشدار می‌دهند که احتمال درگیری بین سیستم‌های هوش مصنوعی پیشرفته و انسان وجود دارد. پژوهش‌ها نشان می‌دهد این جنگ می‌تواند به انقراض بشر منجر شود.
نگرانی‌های جدی درباره جنگ هوش مصنوعی با انسان
کارشناسان حوزه ایمنی هوش مصنوعی ابراز نگرانی کرده‌اند که سیستم‌های هوش مصنوعی پیشرفته ممکن است در آینده وارد جنگ استراتژیک با نوع بشر شوند. قدرت جمعی آن‌ها ممکن است هم‌تراز با قدرت انسان یا حتی بیشتر شود. در یک نظرسنجی در سال ۲۰۲۴، ۳۸ تا ۵۱ درصد از پژوهشگران هوش مصنوعی احتمال ۱۰ درصدی دادند که هوش مصنوعی پیشرفته منجر به پیامدهایی شود که می‌توانند تا انقراض بشر پیش روند.
- نگرانی اصلی مربوط به هوش جامع پیشرفته (AGI) است نه مدل‌های زبانی بزرگ امروزی
- هوش مصنوعی می‌تواند اهدافی توسعه دهد که برای انسان‌ها عجیب اما در تفکر خودش سودمند باشد
- احتمال تضاد اهداف هوش مصنوعی با اهداف انسان‌ها وجود دارد
"کشمکش خشونت‌آمیز بین انسان و ماشین‌های برخوردار از هوش عمومی پیشرفته محتمل است"
"پژوهشگران استدلال می‌کنند دلایل محکمی برای برقراری صلح بین هوش مصنوعی و بشر وجود ندارد"
محققان دانشگاه هنگ‌کنگ با استفاده از «مدل معامله‌ای جنگ» تحلیل کرده‌اند که دو مانع عمده بر سر صلح وجود دارد: ناکارآمدی اطلاعات و عدم عمل به تعهد. اندازه‌گیری توانمندی‌های هوش مصنوعی دشوار است و احتمال عدم توازن اطلاعاتی بین طرفین وجود دارد.