شرکت OpenAI اقدام به انحلال تیمی کرده است که وظیفه آن اطمینان از «ایمنی، قابلیت اعتماد و همسویی مداوم سیستمهای هوش مصنوعی با ارزشهای انسانی» بود. این تصمیم همزمان با تغییر نقش رهبر سابق این تیم به عنوان «آیندهپژوه ارشد» (Chief Futurist) این شرکت صورت گرفت. تیم مذکور که ظاهراً در سپتامبر ۲۰۲۴ تشکیل شده بود، واحد داخلی اختصاصی این استارتاپ برای کار بر روی همسوسازی (Alignment) بود؛ حوزهای گسترده در صنعت که تلاش میکند تضمین کند هوش مصنوعی مطابق با منافع انسان عمل کند. طبق توضیحات OpenAI، هدف این تلاشها این بود که سیستمها بتوانند «به طور مداوم قصد انسانی را در سناریوهای پیچیده دنیای واقعی و شرایط خصمانه دنبال کنند، از رفتارهای فاجعهبار اجتناب کنند و تحت کنترل، قابل حسابرسی و همسو با ارزشهای انسانی باقی بمانند.»
جاش آچام (Josh Achiam)، رئیس سابق تیم همسوسازی، در پستی اعلام کرد که نقش جدیدش به عنوان آیندهپژوه ارشد، حمایت از مأموریت OpenAI مبنی بر «اطمینان از اینکه هوش عمومی مصنوعی (AGI) به نفع کل بشریت باشد» خواهد بود. او در این نقش با تمرکز بر مطالعه چگونگی تغییر جهان در پاسخ به هوش مصنوعی و AGI همکاری خواهد کرد. سخنگوی OpenAI تأیید کرد که سایر اعضای تیم همسوسازی (حدود شش یا هفت نفر) به بخشهای دیگر شرکت منتقل شدهاند و مشغول کارهای مشابهی هستند. این شرکت این تغییر را به عنوان بخشی از «بازسازماندهیهای روتین» در یک شرکت با رشد سریع توجیه کرد.
این اقدام در حالی صورت میگیرد که OpenAI پیش از این نیز یک تیم به نام «تیم ابرهمسوسازی» (superalignment team) داشت که بر تهدیدهای وجودی بلندمدت ناشی از هوش مصنوعی متمرکز بود و در سال ۲۰۲۴ منحل شده بود.
سخنگوی OpenAI بیان کرد که اعضای تیم در نقشهای جدید خود مشغول کارهایی مشابه هستند، اگرچه جزئیات دقیقی در مورد محل استقرار آنها ارائه نشد.
آچام هدف خود را در نقش جدید «مطالعه چگونگی تغییر جهان در پاسخ به هوش مصنوعی، AGI و فراتر از آن» عنوان کرد.
در نهایت، این تغییرات سازمانی در OpenAI نشاندهنده اولویتبندی مجدد منابع و استراتژیهای داخلی این شرکت در قبال تحقیقات مربوط به ایمنی و همسویی هوش مصنوعی در میان پیشرفتهای سریع در این حوزه است.
نیویورکپست
