هشدار متخصصان OpenAI و Anthropic در مورد خطرات توسعه افسارگسیخته هوش مصنوعی
شرکت Anthropic گزارشی منتشر کرده که نشان میدهد هوش مصنوعی پتانسیل استفاده در آمادهسازی برای ارتکاب جرایم جدی از جمله توسعه سلاحهای شیمیایی را دارد.
خطرات توسعه بیرویه هوش مصنوعی و نگرانیهای امنیتی
تعدادی از متخصصان ارشد در زمینه هوش مصنوعی (AI) از شرکتهایی مانند OpenAI و Anthropic، در اعتراض به آنچه “بیتوجهی مدیریت شرکتی” به خطرات اجرای بیش از حد هوش مصنوعی در زندگی انسانها مینامند، از سمتهای خود کنارهگیری کردند. کارشناسان بر خطرات فزاینده توسعه هوش مصنوعی تأکید کرده و آن را تهدیدی “وجودی” میدانند. این نگرانیها همزمان با گزارشهای منتشر شده توسط شرکتها تشدید شده است.
Anthropic در گزارشی هشدار داد که هوش مصنوعی به طور بالقوه میتواند در آمادهسازی برای ارتکاب جرایم وخیم، از جمله توسعه سلاحهای شیمیایی مورد سوءاستفاده قرار گیرد. یکی دیگر از خطرات مورد اشاره تحلیلگران، عملکرد مستقل هوش مصنوعی است که نتایج آن میتواند عواقب پیشبینینشدهای به دنبال داشته باشد. این سطح از نگرانی نشاندهنده فاصله گرفتن بین سرعت پیشرفت فناوری و تدابیر نظارتی است.
تهدیدات امنیتی و لزوم نظارت
اظهارات این متخصصان بر لزوم ایجاد چارچوبهای اخلاقی و نظارتی قویتر در توسعه مدلهای پیشرفته هوش مصنوعی تأکید دارد. ادغام هوش مصنوعی در سیستمهای حیاتی بدون ملاحظات کافی، ریسکهای سیستمی ایجاد میکند که فراتر از مفاهیم سنتی امنیت سایبری است و شامل امنیت فیزیکی و بیولوژیکی نیز میشود. عدم رسیدگی به این مسائل توسط مدیران شرکتهای پیشرو، موجب اقدام اعتراضی این کارشناسان شده است.
- تاکید کارشناسان بر خطرات وجودی ناشی از توسعه سریع هوش مصنوعی.
- احتمال استفاده از هوش مصنوعی در توسعه سلاحهای کشتار جمعی مانند سلاحهای شیمیایی.
- نگرانیها در مورد عواقب غیرقابل پیشبینی عملکرد خودمختار سیستمهای پیشرفته هوش مصنوعی.
- اعتراض کارشناسان به آنچه “بیتوجهی مدیریت شرکتی” به این ریسکها خوانده شده است.
“هوش مصنوعی میتواند به طور بالقوه در آمادهسازی برای ارتکاب جرایم جدی، از جمله توسعه سلاحهای شیمیایی استفاده شود.”
“عملکرد مستقل هوش مصنوعی خطری دیگر است و نتایج آن ممکن است عواقب غیرقابل پیشبینی داشته باشد.”
در مجموع، این تحولات نشان میدهد که جامعه علمی و توسعهدهندگان اصلی هوش مصنوعی، نسبت به پتانسیل تخریبی سیستمهای قدرتمند در صورت فقدان نظارت کافی، به شدت نگران هستند و این امر نیازمند رسیدگی فوری در سطح جهانی است.
