هشدار مدیر ارشد فناوری درباره قدرت غیرقابل تصور هوش مصنوعی
داريو آمودهای، مدیرعامل شرکت Anthropic، در هشداری عمومی اعلام کرد که بشریت در آستانه دستیابی به قدرتی تقریباً غیرقابل تصور قرار دارد که برای آن به طور خطرناکی آماده نیست.
هشدار مدیر ارشد Anthropic درباره قدرت غیرقابل تصور هوش مصنوعی
داريو آمودهای، مدیرعامل شرکت پیشرو در زمینه هوش مصنوعی Anthropic، در مقاله ای ۲۰٬۰۰۰ کلمه ای با عنوان "نوجوانی فناوری" هشدار داده است که بشریت در آستانه دستیابی به قدرتی تقریباً غیرقابل تصور قرار دارد. او تأکید میکند که توسعه هوش مصنوعی اکنون در یک حلقه بازخورد خودتقویتی قرار گرفته است، جایی که هوش مصنوعی فعلی در حال ساختن نسل بعدی هوش مصنوعی است.
خطرات وجودی هوش مصنوعی
- جابجایی گسترده شغلی تا انقراض بشریت
- امکان ایجاد دیکتاتوری توتالیتر جهانی با استفاده از نظارت، تبلیغات و سلاحهای خودمختار مبتنی بر هوش مصنوعی
- خطرات خودمختاری که در آن سیستمهای هوش مصنوعی ممکن است از کنترل خارج شوند
تهدیدات فوری
آمودهای به طور ویژه بر خطر کاهش مانع برای ساخت سلاحهای بیولوژیکی و کشتار جمعی تأکید میکند:
"یک فرد تنها و آشفته میتواند تیراندازی در مدرسه انجام دهد، اما احتمالاً نمیتواند سلاح هستهای بسازد یا طاعون آزاد کند"
اما با وجود هوش مصنوعی قدرتمند، "همه میتوانند ویروسشناس دکتری شوند که مرحله به مرحله در طراحی، سنتز و آزاد کردن سلاح بیولوژیکی راهنمایی شوند."
"در بدترین سناریو، یک هوش مصنوعی قدرتمند میتواند theoretically ایجاد یک پاتوژن مصنوعی را هدایت کند که قادر به 'نابودی تمام زندگی روی زمین' باشد."
آمودهای خواستار مقررات "جراحی" و قوانین شفافیت برای ایجاد محافظهای ضروری شده و هشدار میدهد که "بشریت باید بیدار شود" زیرا سالهای آینده آزمون مهمی برای بلوغ تمدن خواهد بود.
