مسدودسازی اکانتهای چینی توسط OpenAI به دلیل سوءاستفاده از ChatGPT برای رصد شبکههای اجتماعی
OpenAI چندین حساب کاربری مرتبط با چین را مسدود کرده که از ChatGPT برای طراحی ابزار رصد شبکههای اجتماعی و پروژهای مربوط به مسلمانان اویغور استفاده میکردند.
مسدودسازی اکانتهای متخلف توسط OpenAI
شرکت OpenAI اعلام کرده که چندین حساب کاربری مرتبط با چین را که از ChatGPT برای طراحی تبلیغات و یک ابزار رصد شبکههای اجتماعی استفاده میکردند، مسدود کرده است. این اکانتها از طریق VPN از چین به ChatGPT متصل میشدند و ظاهراً برای یک مشتری دولتی کار میکردند. ابزار مورد استفاده آنها بهعنوان رصدکننده شبکههای اجتماعی توصیف شده که پلتفرمهایی مانند ایکس، فیسبوک، اینستاگرام، ردیت، تیکتاک و یوتوب را از نظر محتوای مرتبط با قومیت، مذهب یا سیاست پایش میکند.
- OpenAI تأکید کرده که این حسابها از مدلهای هوش مصنوعی برای رصد شبکههای اجتماعی استفاده نکردهاند.
- شرکت قادر نیست بهطور مستقل تأیید کند که آیا این ابزار واقعاً توسط نهادهای دولتی چین استفاده شده است.
- یک حساب دیگر نیز مسدود شد که از ChatGPT برای تهیه پیشنهادی در مورد پروژهای مرتبط با رصد تحرکات مسلمانان اویغور استفاده میکرد.
- این سیستم برای ردیابی جابهجایی اویغورها، تطبیق اطلاعات با سوابق پلیس و صدور هشدارهای زودهنگام طراحی شده بود.
- گزارش OpenAI جزئیات بیشتری درباره گروههای چینی، روسی و کرهای ارائه میدهد که سعی در سوءاستفاده از ChatGPT برای توسعه بدافزار داشتند.
“ابزار رصد شبکههای اجتماعی به اپراتورها کمک میکند پلتفرمهای مختلف را از نظر محتوای مرتبط با قومیت، مذهب یا سیاست پایش کنند.”
“این سیستم برای ردیابی جابهجایی اویغورها، تطبیق اطلاعات با سوابق پلیس و صدور هشدارهای زودهنگام طراحی شده بود.”
OpenAI همچنین شبکههای کلاهبرداری مستقر در کامبوج، میانمار و نیجریه را که سعی در سوءاستفاده از مدلهای این شرکت داشتند، شناسایی و مختل کرده است.
