سورا نشان می‌دهد که تشخیص دیپ‌فیک چقدر شکسته است

شکست سیستم‌های تشخیص دیپ‌فیک

مدل تولید ویدیوی سورا OpenAI نشان داده است که فناوری‌های فعلی تشخیص محتوای جعلی به شدت ناقص هستند. با وجود اینکه سورا از استاندارد C2PA (معروف به Content Credentials) پشتیبانی می‌کند، این برچسب‌ها در پلتفرم‌هایی مانند اینستاگرام، تیک‌تاک و یوتیوب به ندرت قابل مشاهده هستند. این سیستم که باید اطلاعات تولید محتوا را به صورت متادیتای قابل تأیید ضبط کند، تنها زمانی کار می‌کند که در تمام مراحل تولید و انتشار به طور کامل پیاده‌سازی شود.

• سورا ۲ قادر به تولید ویدیوهای متقاعدکننده از افراد مشهور مانند مارتین لوتر کینگ و شخصیت‌های دارای حق تکثیر است
• برچسب‌های AI در پلتفرم‌های اجتماعی یا بسیار کوچک هستند یا اصلاً وجود ندارند
• متادیتای C2PA به راحتی حذف می‌شود و واترمارک‌های سورا به سادگی قابل حذف هستند
• پلتفرم‌ها به جای مسئولیت‌پذیری، بار تشخیص را بر دوش کاربران گذاشته‌اند
• سیستم‌های مبتنی بر استنتاج مانند Reality Defender می‌توانند مکمل C2PA باشند

بن کالمن، مدیرعامل Reality Defender می‌گوید: "C2PA یک راه‌حل مناسب است، اما به تنهایی کافی نیست"

اندی پارسونز از ادوبی اعتراف می‌کند: "ما موافقیم که متکی بودن صرف به متادیتای C2PA ممکن است برای جلوگیری از انتشار اطلاعات غلط کافی نباشد"

ادوبی و سایر شرکت‌ها اکنون به دنبال راه‌حل‌های قانونی و مقرراتی هستند، اما تا زمانی که پلتفرم‌ها به طور جدی از فناوری‌های شفافیت حمایت نکنند، مشکل دیپ‌فیک‌ها ادامه خواهد داشت.