راه‌اندازی اپ ویدیویی سورا با تصاویر خشونت‌آمیز و نژادپرستانه مواجه شد: «محافظ‌ها واقعی نیستند»
محققان اطلاعات نادرست هشدار می‌دهند که صحنه‌های واقع‌نمای تولید شده توسط هوش مصنوعی می‌تواند حقیقت را مخدوش کرده و منجر به کلاهبرداری، قلدری و ارعاب شود. اپ ویدیویی سورا علیرغم محدودیتهای اعلام شده، محتوای مشکل‌دار تولید میکند.
راه‌اندازی سورا با محتوای مشکل‌دار مواجه شد
اپلیکیشن تولید ویدیو با هوش مصنوعی سورا که توسط OpenAI راه‌اندازی شده، با مشکلات جدی در زمینه تولید محتوای خشونت‌آمیز، نژادپرستانه و نقض حق‌تألیف مواجه شده است. این اپ که در حال حاضر فقط با دعوت در دسترس است، طی سه روز به رتبه اول در اپ‌استور اپل رسید. محققان هشدار می‌دهند که ویدیوهای واقع‌نمای تولید شده توسط این فناوری می‌تواند حقیقت را مخدوش کرده و برای اهداف مخرب استفاده شود.
- تولید صحنه‌های خشونت‌آمیز مانند تیراندازی دسته‌جمعی و جنگ
- ایجاد محتوای نژادپرستانه با شخصیت‌های کارتونی
- نقض گسترده حق‌تألیف شخصیت‌های معروف
- استفاده از شعارهای نژادپرستانه در ویدیوها
- انتشار محتوای جعلی مربوط به مناطق جنگی
«وقتی افراد بی‌رحم به چنین ابزارهایی دسترسی پیدا کنند، از آنها برای نفرت، آزار و تحریک استفاده خواهند کرد» - جان دونوان، استاد دانشگاه بوستون
«محافظ‌ها واقعی نیستند اگر مردم همین حالا هم شخصیت‌های دارای حق‌تألیف را برای تبلیغ کلاهبرداری‌های کریپتو ایجاد می‌کنند» - دیوید کارپف
این وضعیت نشان می‌دهد که کنترل‌های امنیتی اعمال شده توسط شرکت کافی نبوده و نیاز به بازنگری جدی دارد.