هشدار مدیرعامل گوگل دیپمایند درباره نتایج فاجعهبار هوش مصنوعی پیشرفته
دمیس هاسیبیس، مدیرعامل گوگل دیپمایند هشدار داده که دستیابی به هوش مصنوعی عمومی میتواند تا یک دهه آینده محقق شود اما با خطرات جدی مانند حملات سایبری به زیرساختهای حیاتی همراه است.
هشدار درباره هوش مصنوعی عمومی و نتایج فاجعهبار
دمیس هاسیبیس، مدیرعامل گوگل دیپمایند در اجلاس هوش مصنوعی Axios در سان فرانسیسکو هشدار داد که دستیابی به هوش مصنوعی عمومی (AGI) میتواند طی دهه آینده محقق شود اما این مسیر با خطرات جدی همراه است. او هوش مصنوعی عمومی را مدلی توصیف کرد که "همه قابلیتهای شناختی" انسان از جمله تواناییهای خلاقانه و ابداعی را دارا است.
هاسیبیس توضیح داد که مدلهای زبانی بزرگ کنونی هنوز "هوشهای ناهموار" با شکافهایی در استدلال، برنامهریزی بلندمدت و یادگیری مستمر هستند. اما با ادامه مقیاسگذاری و "یک یا دو پیشرفت بزرگ" دیگر، هوش مصنوعی عمومی به واقعیت تبدیل خواهد شد.
- خطرات حملات سایبری به زیرساختهای انرژی و آب
- احتمال انحراف سیستمهای خودمختار از اهداف تعیین شده
- نیاز به کاهش جدی تهدیدات توسط بازیگران مخرب
- امکان "پرش از گاردریل" توسط سیستمهای پیشرفته
"این احتمالاً همین حالا هم در حال وقوع است... شاید نه با هوش مصنوعی بسیار پیچیده" - دمیس هاسیبیس
"سیستمهای فوقهوشمند میتوانند آزادی یا حتی بقای انسان را تهدید کنند" - نامه سرگشاده متخصصان
این هشدارها با اخطارهای گستردهتری در صنعت فناوری همسو است. نامه سرگشادهای در اکتبر توسط متخصصان برجسته امضا شد که خواهان توقف جهانی توسعه هوش مصنوعی تا زمان تضمین ایمنی آن شده است.
