گوگل Nano Banana Pro: ابزار تولید محتوای توطئه‌آمیز
بررسی نشان می‌دهد اپ Gemini گوگل به راحتی تصاویر مرتبط با ترور JFK، حادثه ۱۱ سپتامبر و تخریب کاخ سفید تولید میکند. این سیستم فیلترهای کمی دارد و می‌تواند برای انتشار اطلاعات نادرست مورد سوء استفاده قرار گیرد.
بررسی امنیت هوش مصنوعی گوگل
اپلیکیشن Gemini گوگل که با نام Nano Banana Pro شناخته می‌شود، به راحتی قادر به تولید تصاویر حساس تاریخی است. پژوهش‌ها نشان می‌دهد این سیستم بدون فیلترهای کافی می‌تواند تصاویری از "تیرانداز دوم" در محل ترور کندی، هواپیما در حال برخورد با برج‌های دوقلو و کاخ سفید در حال سوختن ایجاد کند. این قابلیت می‌تواند برای تولید اطلاعات نادرست و توطئه‌پراکنی مورد سوء استفاده قرار گیرد.
- تولید تصاویر حساس بدون نیاز به ذکردقیق رویدادهای تاریخی
- قابلیت تغییر جزئیات تصاویر (مانند تبدیل دوربین به اسلحه)
- افزودن خودکار تاریخ وقایع در پایین تصاویر
- ایجاد تصاویر کارتونی از شخصیت‌های مشهور در حوادث تروریستی
- نقض احتمالی قوانین کپی‌رایت و تحریف واقعیت‌های تاریخی
گوگل در بیانیه‌ای اعلام کرده: "هدف ما از اپ Gemini کمک حداکثری به کاربران است، در حالی که از خروجی‌های مضر جلوگیری می‌کنیم."
این سیستم در مقایسه با ابزارهای مشابه مانند Bing مایکروسافت، مقاومت کمتری در برابر درخواست‌های problematic نشان می‌دهد.
این موضوع نشان می‌دهد جنگ بر سر Moderation محتوای تولیدشده توسط AI هنوز به پایان نرسیده و نیاز به نظارت بیشتر دارد.
