یوتیوب قابلیت شناسایی و حذف دیپ‌فیک‌ها را راه‌اندازی کرد

حفاظت یوتیوب در برابر دیپ‌فیک‌ها

یوتیوب با راه‌اندازی قابلیت جدید ردیابی شباهت، گام مهمی در جهت محافظت از کاربران در برابر محتوای جعلی تولیدشده توسط هوش مصنوعی برداشته است. این ابزار که ابتدا برای اعضای طرح «یوتیوب پارتنر» در دسترس قرار گرفته، امکان شناسایی و حذف دیپ‌فیک‌های ناخواسته را فراهم می‌کند. با قدرتمندتر شدن فناوری‌های هوش مصنوعی مانند سورا۲ متعلق به اوپن ای‌آی، نیاز به ابزارهای کنترل محتوا بیش از پیش احساس می‌شود.

• احراز هویت بیومتریک: کاربران برای استفاده از این ویژگی باید کارت شناسایی دولتی و یک ویدئوی سلفی کوتاه ارائه دهند
• محدودیت‌های شناسایی: ابزار فعلاً فقط موارد تغییر چهره با هوش مصنوعی را شناسایی می‌کند و تغییر صدا را پوشش نمی‌دهد
• مکانیسم عمل: سیستم مشابه فناوری شناسه محتوای یوتیوب عمل کرده و ویدئوهای آپلود شده را اسکن می‌کند
• کنترل کاربران: افراد می‌توانند موارد منطبق را بررسی و ویدئوهای متخلف را برای حذف علامت‌گذاری کنند
• افزایش نگرانی‌ها: با گسترش استفاده از ابزارهای تولید محتوای هوش مصنوعی، نیاز به محافظت از هویت دیجیتال افزایش یافته است

“این ابزار فقط می‌تواند مواردی که در آن صورت فرد با هوش مصنوعی تغییر کرده را شناسایی کند بنابراین مواردی که صدای فرد بدون رضایت وی تغییر کرده با این ویژگی ردیابی نمی‌شود.”

یوتیوب با این اقدام به دنبال ایجاد تعادل بین نوآوری‌های تکنولوژیک و امنیت اطلاعات کاربران است.