مهلت غیرممکن اینستاگرام و X برای تشخیص دیپ‌فیک‌ها

چالش مهلت تشخیص محتوای تولید شده توسط هوش مصنوعی

مقررات جدید هند به طور ناگهانی مهلت کوتاهی را برای پلتفرم‌های بزرگ رسانه‌های اجتماعی مانند اینستاگرام و X تعیین کرده است تا بتوانند مواد تولید شده توسط هوش مصنوعی، معروف به دیپ‌فیکها، را تشخیص داده و برچسب‌گذاری کنند. این ضرب‌الاجل که تا بیستم فوریه اعتبار دارد، سیستم‌های فعلی تشخیص و برچسب‌گذاری محتوای مصنوعی را تحت فشار شدیدی قرار می‌دهد. هند با داشتن بیش از یک میلیارد کاربر اینترنت، بازاری حیاتی برای این پلتفرم‌ها محسوب می‌شود، بنابراین تأثیر این قوانین فراتر از مرزهای این کشور خواهد بود.

بر اساس قوانین اصلاح شده فناوری اطلاعات هند، پلتفرم‌های دیجیتال باید “اقدامات فنی مناسب و معقول” را برای جلوگیری از اشتراک‌گذاری محتوای صوتی و تصویری غیرقانونی تولید شده توسط هوش مصنوعی به کار گیرند. محتوای مولد هوش مصنوعی که مسدود نمی‌شود، باید دارای متا‌دیتای دائمی یا سایر مکانیزم‌های مناسب اثبات منشأ (Provenance) باشد. این امر شامل الزام کاربران به افشای محتوای ویرایش شده با هوش مصنوعی و همچنین برچسب‌گذاری برجسته محتوای مصنوعی است تا کاربران بتوانند فوراً آن را تشخیص دهند.

ضعف سیستم‌های فعلی برچسب‌گذاری

پیاده‌سازی این الزامات بسیار دشوار است زیرا سیستم‌های تشخیص و برچسب‌گذاری هوش مصنوعی در حال حاضر به شدت نابالغ هستند. سیستم C2PA (اعتبارات محتوا) یکی از بهترین روش‌های موجود است که با افزودن متا‌داده‌های دقیق در زمان ایجاد یا ویرایش، نحوه ساخت محتوا را شرح می‌دهد. با این حال، غول‌های فناوری مانند متا، گوگل و مایکروسافت از C2PA استفاده می‌کنند ولی این سیستم کارایی کاملی ندارد. در بسیاری از موارد، محتوای مصنوعی بدون متا‌داده منشأ (مانند مواردی که توسط مدل‌های هوش مصنوعی منبع باز تولید شده‌اند) از زیر دست فیلترها عبور می‌کنند یا متا‌داده‌ها در حین آپلود به طور ناخواسته حذف می‌شوند، چرا که C2PA در برابر دستکاری مقاوم نیست.

افزایش فشار و نگرانی از سانسور

علاوه بر مسائل فنی تشخیص، یک الزام دیگر مبنی بر حذف مواد غیرقانونی ظرف سه ساعت از زمان کشف یا گزارش شدن وجود دارد که جایگزین مهلت قبلی ۳۶ ساعته شده است. این زمان‌بندی کوتاه برای اجرای هرگونه بررسی انسانی معنی‌دار، غیرممکن است. سازمان‌هایی مانند بنیاد آزادی اینترنت (IFF) هشدار داده‌اند که این محدودیت‌ها ممکن است پلتفرم‌ها را وادار کند تا تبدیل به “سانسورچیان با آتش سریع” شوند و به سمت حذف خودکار بیش از حد محتوا سوق داده شوند.

یکی از هشدارهای جدی این است: “این بازه‌های زمانی غیرممکن هرگونه بررسی انسانی معنادار را حذف کرده و پلتفرم‌ها را به سمت حذف خودکار بیش از حد سوق می‌دهد.”

از سوی دیگر، مقامات هندی ممکن است از این واقعیت آگاه باشند که فناوری‌های فعلی کاملاً آماده نیستند، زیرا در این اصلاحات بر اجرای مکانیزم‌های اثبات منشأ تا “حد امکان از نظر فنی عملی” تأکید شده است. این شرایط جدید، فرصتی است تا گروه‌های پشتیبان C2PA اثبات کنند که آیا این استاندارد با پذیرش گسترده، می‌تواند موفق عمل کند یا خیر.

درباره ضرب‌الاجل حذف محتوا، نویسنده اشاره می‌کند: “فقط تا هفته آینده همه چیز را اصلاح کنید، هیچ فشاری نیست.”