واقعیت در جنگ دیپ‌فیک‌ها در حال شکست است

نبرد واقعی برای اعتمادسازی در عصر دیپ‌فیک‌ها

این مقاله به بررسی بحران کنونی «واقعیت» می‌پردازد که ناشی از سیل تصاویر و ویدیوهای جعلی و دستکاری‌شده توسط هوش مصنوعی است که به سرعت در پلتفرم‌های اجتماعی منتشر می‌شوند. تلاش‌های فعلی برای مقابله با این پدیده، به ویژه از طریق مکانیسم‌های برچسب‌گذاری، ناکارآمد ارزیابی شده‌اند. سیستم اصلی مورد بحث، C2PA (Content Credentials) است که یک استاندارد فراداده (metadata) است و توسط شرکت‌هایی مانند ادوبی، متا، مایکروسافت و OpenAI حمایت می‌شود. هدف این سیستم این بود که اطلاعات دقیقی در مورد زمان ایجاد و ابزارهای مورد استفاده در تولید یک محتوا در متادیتای آن حک شود تا کاربران بتوانند اصالت تصاویر و ویدیوها را به‌راحتی تشخیص دهند.

یکی از مشکلات اساسی C2PA این است که در اصل برای مدیریت متادیتای عکاسی طراحی شده بود و نه به عنوان یک سیستم قوی برای تشخیص هوش مصنوعی. علاوه بر این، پذیرش آن در سراسر اینترنت یکنواخت نبوده است. حتی شرکت‌های اصلی حامی نیز در پیاده‌سازی کامل آن دچار مشکل هستند. به عنوان مثال، زمانی که محتوایی با این متادیتا به پلتفرم‌های توزیع می‌رسد، اغلب یا توسط پلتفرم‌ها حذف می‌شود یا به دلیل عدم درک یا ناهماهنگی روش‌های پردازشی، اطلاعات صحیح به کاربر منتقل نمی‌شود. این امر باعث شده است که مدیران پلتفرم‌هایی مانند اینستاگرام علناً اعلام کنند که دیگر نباید به تصاویر و ویدیوها به شکل پیش‌فرض اعتماد کرد و باید رویکرد «شکاکیت» را در پیش گرفت.

ناکارآمدی استانداردسازی و چالش پذیرش

• قابلیت دستکاری متادیتا: اگرچه ادعا می‌شود متادیتای C2PA ضد دستکاری است، در عمل نشان داده شده است که ابزارهایی مانند «اسکرین‌شات» یا حذف عمدی آن توسط پلتفرم‌ها، کارایی این سیستم را زیر سوال برده است.
• عدم پذیرش یکپارچه: برای مؤثر بودن، همه پلتفرم‌ها و دستگاه‌های تولید محتوا—از دوربین‌های عکاسی حرفه‌ای (مانند نيكون و سونی) گرفته تا تلفن‌های هوشمند (اپل همچنان موضعی خنثی دارد)—باید به‌طور همزمان این استاندارد را اجرا کنند که تاکنون محقق نشده است.
• تضاد منافع پلتفرم‌ها: شرکت‌های بزرگ فناوری که بیشترین سرمایه‌گذاری را در توسعه هوش مصنوعی (مولد محتوا) کرده‌اند (مانند گوگل و متا)، در عین حال پخش‌کنندگان اصلی اطلاعات هستند. برچسب‌گذاری قوی یا افشای کامل ماهیت تولیدشده با هوش مصنوعی، می‌تواند جریان سودآور محتوای تولیدشده انبوه و کارآمد را به خطر اندازد.

«ما از فرض اینکه آنچه می‌بینیم واقعیت است به صورت پیش‌فرض، به سمت شروع با شک و تردید حرکت خواهیم کرد.» — آدام موسری، مدیر اینستاگرام

این تغییر پارادایم، که به معنای عدم اعتماد به تصاویر ثبت‌شده توسط تلفن‌های هوشمند است، بنیان اعتمادسازی جمعی را که در دهه‌های گذشته بر ثبت لحظات تأکید داشت، متزلزل می‌کند. چه عکس‌های گرفته شده با پیکسل گوگل باشد که از ابزارهای هوش مصنوعی برای «ثبت خاطرات» استفاده می‌کند، چه ویدیوهای خبری، دیگر نمی‌توان به سادگی به بصریات اعتماد کرد.

واکنش جامعه خلاقانه و آینده نظارتی

جامعه خلاقانه نیز نسبت به برچسب‌های هوش مصنوعی واکنش منفی نشان داده است، زیرا احساس می‌کنند این برچسب‌ها ارزش کار انسانی و زمان صرف‌شده برای تولید محتوا را کاهش می‌دهد. این امر باعث می‌شود تا حتی در مورد تعریف اینکه «چه مقدار ویرایش با هوش مصنوعی بیش از حد است» اجماع وجود نداشته باشد.

«به نظر من، این (تلاش برای برچسب‌گذاری محتوا به عنوان راه حل نهایی) شکست خورده است. این هرگز قرار نبود یک راه حل جهانی باشد.» — مصاحبه‌شونده

به نظر می‌رسد تلاش‌های داوطلبانه صنعت در مواجهه با بازیگران بدخواه (از جمله دولت‌ها که از تصاویر دستکاری‌شده استفاده می‌کنند) موفق نبوده است. تحلیلگران پیش‌بینی می‌کنند که در آینده نزدیک، فشار نظارتی و قانونی (مانند قوانین ایمنی آنلاین در اروپا) شرکت‌ها را مجبور به همکاری و توقف رقابت در این زمینه کند و تنها از طریق دخالت قانون خواهد بود که شاید نوعی راه‌حل مؤثر برای حفظ یک «واقعیت مشترک» در فضای دیجیتال پیدا شود.