اوپن‌ای‌آی می‌گوید مرورگرهای هوش مصنوعی ممکن است همیشه در برابر حملات تزریق پرامپت آسیب‌پذیر باشند

آسیب‌پذیری دائمی مرورگرهای هوش مصنوعی در برابر تزریق پرامپت

شرکت اوپن‌ای‌آی در پستی رسمی اعتراف کرده است که حملات تزریق پرامپت – نوعی حمله که عامل‌های هوش مصنوعی را برای اجرای دستورات مخرب پنهان‌شده در صفحات وب یا ایمیل‌ها دستکاری می‌کند – یک ریسک اجتناب‌ناپذیر است. این شرکت می‌گوید این چالش امنیتی، مشروع کلاهبرداری‌های اینترنتی، احتمالاً هرگز به طور کامل "حل" نخواهد شد. مدل "عامل" در مرورگر هوش مصنوعی چت‌جی‌پی‌تی اطلس سطح حمله امنیتی را گسترش می‌دهد.

• اوپن‌ای‌آی برای مقابله با این تهدید مداوم، یک "مهاجم خودکار مبتنی بر ال‌ال‌ام" ایجاد کرده است.
• این مهاجم، یک ربات است که با یادگیری تقویتی آموزش دیده تا نقش یک هکر را بازی کرده و راه‌هایی برای مخفی کردن دستورات مخرب برای یک عامل هوش مصنوعی جستجو کند.
• مرکز امنیت سایبری ملی بریتانیا نیز هشدار داده که این حملات "ممکن است هرگز به طور کامل کاهش یابند."
• کارشناسان امنیتی مانند رامی مک‌کارتی تأکید می‌کنند که مرورگرهای عامل‌دار با دسترسی بالا به داده‌های حساس، ریسک قابل‌توجهی دارند.

"تزریق پرامپت، دقیقاً مانند کلاهبرداری و مهندسی اجتماعی در وب، بعید است که هرگز به طور کامل 'حل' شود." – اوپن‌ای‌آی "برای بیشتر موارد استفاده روزمره، مرورگرهای عامل‌دار هنوز ارزش کافی برای توجیه پروفایل ریسک فعلی خود ارائه نمی‌دهند." – رامی مک‌کارتی

اوپن‌ای‌آی با تست در مقیاس بزرگ و چرخه‌های سریع وصله‌گذاری به تقویت سیستم‌های خود ادامه می‌دهد، اما ماهیت پیچیده این حملات نیاز به دفاع لایه‌ای و نظارت مستمر دارد.