آیا نصب ChatGPT Atlas برای شما بی‌خطر است؟
ChatGPT Atlas یک مرورگر وب مبتنی بر هوش مصنوعی است که می‌تواند سفر رزرو کند، خرید انجام دهد یا تحقیق کند، اما متخصصان امنیتی نگرانی‌هایی درباره آن دارند.
امنیت ChatGPT Atlas
ChatGPT Atlas یک مرورگر وب هوش مصنوعی جدید از OpenAI است که مانند یک عامل شخصی در مرورگر شما عمل می‌کند. با این حال، متخصصان امنیتی مانند راب لی از مؤسسه SANS هشدار می‌دهند که این مرورگر در مراحل اولیه دارای مشکلات امنیتی از جمله حمله تزریق دستور و حمله کلیپ‌برد است. این سیستم‌های هوش مصنوعی ممکن است دچار توهم شوند یا نتوانند سایت‌های اسپم را تشخیص دهند.
- مخاطرات اصلی: تزریق دستور، حملات کلیپ‌برد و عدم درک سایت‌های مخرب
- نگرانی مصرف‌کنندگان: ذخیره‌سازی اطلاعات و پایداری داده‌ها در هوش مصنوعی
- خطر در محیط کار: ۲۷.۷% شرکت‌ها حداقل یک نصب داشته‌اند
- حملات تزریق: دستورات مخرب در سایت‌های پنهان که هوش مصنوعی را فریب می‌دهد
- دفاع OpenAI: آموزش مدل‌ها برای تشخیص دستورات قابل اعتماد و غیرقابل اعتماد
سیمون پولتون: “مصرف‌کنندگان درک نمی‌کنند اطلاعاتشان چگونه ذخیره می‌شود”
سرنا بوث: “بزرگترین خطر استفاده از LLMها این است که مردم محدودیت‌هایشان را درک نمی‌کنند”
برای استفاده شخصی، با رعایت احتیاط قابل قبول است، اما در محیط کار باید با تأیید بخش فناوری اطلاعات و در محیط‌های آزمایشی محدود استفاده شود.
