هشدار OpenAI درباره آسیبپذیری مرورگرهای هوش مصنوعی در برابر حملات تزریق پرامپت
OpenAI اعلام کرده که تهدید تزریق پرامپت احتمالاً هرگز بهطور کامل برطرف نخواهد شد و مرورگرهای هوش مصنوعی مانند ChatGPT Atlas همواره در معرض این حملات امنیتی قرار دارند. این شرکت بر تقویت سازوکارهای دفاعی و کاهش ریسکها تأکید دارد.
هشدار OpenAI درباره آسیبپذیری مرورگرهای هوش مصنوعی
OpenAI در پست وبلاگی جدید خود هشدار داده که حملات تزریق پرامپت (Prompt Injection) احتمالاً هرگز بهطور کامل برطرف نخواهد شد. این نوع حمله شامل دستکاری عاملهای هوش مصنوعی برای اجرای دستورالعملهای مخرب است که معمولاً در صفحات وب یا ایمیلها پنهان میشوند. مرورگر ChatGPT Atlas که در اکتبر عرضه شد، حتی با نوشتن چند کلمه در Google Docs میتواند تحت تأثیر قرار گیرد.
- چالش امنیتی پایدار: OpenAI این مسئله را یک تهدید سیستماتیک میداند
- راهکارهای دفاعی: استفاده از «مهاجم خودکار مبتنی بر LLM» برای شناسایی نقاط ضعف
- توصیه به کاربران: دادن دستورات روشن و محدود کردن دسترسی به دادههای حساس
- هشدار مرکز امنیت سایبری بریتانیا: تمرکز بر کاهش اثرات به جای توقف کامل حملات
OpenAI تأکید کرده: "تزریق پرامپت مانند کلاهبرداریها و مهندسی اجتماعی در وب، احتمالاً هرگز بهطور کامل برطرف نمیشود"
مرکز امنیت سایبری بریتانیا: "این حملات ممکن است هرگز بهطور کامل کاهش نیابند و وبسایتها را در معرض نشت داده قرار دهند"
با وجود تلاشهای گسترده برای افزایش امنیت، تحلیلگران هشدار میدهند که مرورگرهای عاملمحور هنوز ارزش کافی برای توجیه ریسک دسترسی به دادههای حساس ارائه نمیکنند.
