اختلال اپن‌ای‌آی در حساب‌های چینی برای ایجاد ابزارهای نظارت بر شبکه‌های اجتماعی
اپن‌ای‌آی افشا کرده که یک حساب ممنوعه چینی از چت‌جی‌پی‌تی برای طراحی ابزار نظارت بر شبکه‌های اجتماعی استفاده می‌کرد. این ابزار قادر به جستجوی محتوای سیاسی، قومی و مذهبی در پلتفرم‌هایی مانند X، فیسبوک و تیک‌تاک بود.
استفاده غیرقانونی از ChatGPT برای نظارت اجتماعی
اپن‌ای‌آی در گزارش جدید خود افشا کرده که حساب‌های چینی از ChatGPT برای طراحی ابزارهای نظارت بر شبکه‌های اجتماعی استفاده می‌کردند. این ابزارها قادر بودند پلتفرم‌هایی مانند X، فیسبوک، اینستاگرام، رددیت، تیک‌تاک و یوتیوب را برای محتوای سیاسی، قومی یا مذهبی خاص جستجو کنند. شرکت تأکید کرده که این فعالیت‌ها برای یک مشتری دولتی انجام می‌شد.
- ایجاد ابزار هشدار برای ردیابی حرکت افراد اویغور
- استفاده توسعه‌دهندگان روسی، کرهای و چینی برای بهبود بدافزار
- شبکه‌هایی در کامبوج، میانمار و نیجریه برای ایجاد کلاهبرداری
- تولید محتوای AI برای کمپین‌های تأثیرگذاری آنلاین
اپن‌ای‌آی می‌گوید: "این کار ظاهراً برای یک مشتری دولتی انجام می‌شد"
اپن‌ای‌آی از فوریه ۲۰۲۴ انتشار گزارش‌های تهدید را آغاز کرده و تخمین می‌زند که ChatGPT سه برابر بیشتر برای شناسایی کلاهبرداری نسبت به ایجاد آن استفاده می‌شود.