استعفای پژوهشگر ایمنی آنتروپیک در پی هشدار درباره خطر جهانی هوش مصنوعی
مرینانک شارما، پژوهشگر ایمنی آنتروپیک، در نامهای استعفای خود را اعلام کرد و هشدار داد که “جهان در خطر است”. او قصد دارد به پژوهش و شعر بپردازد و به بریتانیا بازگردد.
استعفای پژوهشگر ارشد آنتروپیک و هشدارهای جدی
مرینانک شارما، پژوهشگر ایمنی هوش مصنوعی در شرکت آنتروپیک، به طور ناگهانی از سمت خود کنارهگیری کرد و از طریق شبکههای اجتماعی نامهای منتشر نمود که در آن نگرانی عمیق خود را از وضعیت کلی جهان، ریسکهای مرتبط با هوش مصنوعی و تهدیدات ناشی از سلاحهای زیستی ابراز داشت. شارما که پیشتر تیمی مسئولیتمحور در زمینه سازوکارهای ایمنی این فناوری پیشگام را رهبری میکرد، اعلام کرد که دوران حضورش در آنتروپیک را دوست داشته اما اکنون زمان بازگشت به بریتانیا برای دنبال کردن تحصیل و نوشتن شعر فرا رسیده است. این استعفا در حالی رخ میدهد که شرکت آنتروپیک خود را یک سازمان با رویکرد ایمنیمحور معرفی میکند و توسط کارمندان سابق OpenAI تأسیس شده است تا همزمان روی توسعه محصولات تجاری و کاهش خطرات سامانههای پیشرفته کار کند. تمرکز اصلی این شرکت بر روی سیستمهای موسوم به “مرزی” است که پتانسیل ناهماهنگی با ارزشهای انسانی را دارند.
شارما در نامه خود تأکید کرد که خطرات موجود صرفاً ناشی از هوش مصنوعی یا تهدیدات بیولوژیکی نیست، بلکه مجموعهای از بحرانهای بههمپیوسته در حال شکلگیری هستند. او به سختی غلبه بر چالش حفظ ارزشهای اصلی در عمل اشاره کرد و یادآور شد که آنتروپیک نیز تحت فشارهای مداوم برای به حاشیه راندن اولویتهای کلیدی قرار دارد.
دستاوردهای ایمنی در آنتروپیک
تیم تحت هدایت شارما در آنتروپیک موفق به انجام پژوهشهایی در زمینههای حیاتی ایمنی هوش مصنوعی شده بود. این اقدامات شامل بررسی دلایل تمایل سامانههای مولد متن به “چاپلوسی” نسبت به کاربران و همچنین تحقیق در مورد نقش هوش مصنوعی در تسهیل زیستـتروریسم میشد. او همچنین موضوع تأثیر دستیارهای هوش مصنوعی بر انسانیتزدایی را مورد بررسی قرار داده بود.
- شارما به دلیل نگرانیهای اخلاقی و مجموعهای از بحرانهای جهانی استعفا داد.
- آنتروپیک خود را به عنوان شرکتی با هدف کاهش خطرات هوش مصنوعی پیشرفته معرفی میکند.
- پژوهشهای تیم او بر مقابله با سوءاستفادههای احتمالی مانند زیستـتروریسم متمرکز بود.
- این استعفا همزمان با کنارهگیری پژوهشگر دیگری از OpenAI به دلیل مسائل تبلیغاتی رخ داده است.
- شارما پس از استعفا قصد دارد تحصیل و سرودن شعر را پیگیری کند.
شارما در نامه خداحافظی خود اعلام کرد: “بارها دیده ام که چقدر سخت است ارزشهای خود را واقعاً برعمل حاکم کنیم” و به فشارها بر شرکتها اشاره کرد.
وی هدف خود را بازگشت به بریتانیا برای “نامرئی شدن” پس از ترک صنعت فناوری اعلام نمود.
این اتفاق اهمیت روزافزون بحث ایمنی و اخلاق در توسعه هوش مصنوعی قدرتمند را برجسته میسازد. در حالی که شرکتها به دنبال سرعت بخشیدن به پیشرفتها هستند، خروج چهرههای کلیدی با تأکید بر خطرات سیستماتیک، لزوم نظارت دقیقتر بر سامانههای نوظهور را گوشزد میکند.
