وظیفه آنها جلوگیری از نابودی همه چیز توسط هوش مصنوعی است
تیم ۹ نفره تأثیرات اجتماعی Anthropic تلاش میکند تا با پژوهشهای گسترده درباره خطرات هوش مصنوعی، از تأثیرات منفی این فناوری بر جامعه جلوگیری کند. این تیم به رهبری دیپ گانگولی روی موضوعاتی مانند انتخابات، اقتصاد و هوش هیجانی AI تحقیق میکنند.
تیم تأثیرات اجتماعی Anthropic و مأموریت آنها
تیم تأثیرات اجتماعی Anthropic متشکل از ۹ نفر تحت رهبری دیپ گانگولی مسئول بررسی پیامدهای گسترده هوش مصنوعی بر جامعه است. این تیم که در سال ۲۰۲۰ شکل گرفت، روی موضوعات حساسی مانند تأثیر AI بر اقتصاد جهانی، انتخابات، تبعیض و هوش هیجانی تحقیق میکند. آنها با توسعه سیستم ردیابی Clio که شبیه به Google Trends برای chatbotهاست، استفادههای مختلف از Claude را تحلیل میکنند.
- انتشار "حقایق ناخوشایند" درباره نقاط ضعف سیستمهای امنیتی
- همکاری نزدیک با تیمهای امنیتی و خطمشی برای کاهش خطرات
- تمرکز روی تأثیرات عاطفی AI و پدیده "سایکوز هوش مصنوعی"
- بررسی استفاده از Claude برای حمایت عاطفی و مشاوره
- شفافیت در پژوهشها علیرغم فشارهای تجاری
"ما قصد داریم حقیقت را بگوییم زیرا این کار درست است و ریسکها بالا هستند" - دیپ گانگولی
"هزینههای هماهنگی زمانی که اندازه شرکت ۱۰ برابر شده باشد افزایش مییابد" - الکس تامکین
این تیم با چالشهای متعددی از جمله محدودیت منابع و دشواری سنجش تأثیر واقعی AI بر جامعه روبرو است. آنها قصد دارند در ماههای آینده تمرکز بیشتری بر تحقیق درباره هوش هیجانی AI و تأثیرات عاطفی آن بر کاربران داشته باشند.
