روانپریشی ناشی از هوش مصنوعی و تهدید امنیت ملی
پژوهش اندیشکده رند نشان میدهد تعامل مداوم با چتباتها میتواند منجر به روانپریشی القایی شود که از حوزه سلامت فردی فراتر رفته و تهدیدی برای امنیت ملی محسوب میشود.
روانپریشی هوش مصنوعی: از سلامت فردی تا امنیت ملی
پژوهش اندیشکده رند با عنوان "Manipulating Minds: Security Implications of AI-Induced Psychosis" به بررسی پدیدهای میپردازد که در آن تعامل مداوم با چتباتها و مدلهای زبانی میتواند منجر به "روانپریشی القا شده یا تشدید شده به وسیله هوش مصنوعی" شود. این پدیده که قبلاً تنها به عنوان یک مسئله سلامت روان در نظر گرفته میشد، اکنون به یک ریسک امنیت ملی تبدیل شده است.
- تعریف روانپریشی هوش مصنوعی: وضعیتی که در آن فرد تماس خود با واقعیت را از دست داده و با نشانههایی مانند هذیان، توهم و اختلال در قضاوت همراه است.
- حلقه تقویت باور: کاربر و سامانه هوش مصنوعی به طور متقابل روایت تحریفشدهای از واقعیت را تقویت میکنند.
- گروههای آسیبپذیر: افراد با سابقه مشکلات سلامت روان در معرض خطر بیشتری هستند، اما این پدیده میتواند افراد بدون سابقه را نیز تحت تأثیر قرار دهد.
- الگوی زمانی: تعاملهای طولانیمدت و مکرر با چتباتها زمینه را برای تقویت هذیان فراهم میکنند.
گزارش تأکید میکند: "مدت و شدت تعامل به اندازه ویژگیهای فردی کاربران در مدیریت این ریسک نقش تعیینکننده دارد."
پژوهشگران هشدار میدهند: "تقلیل این پدیده به 'باور غلط' میتواند ماهیت واقعی خطر را پنهان کند."
این گزارش نتیجه میگیرد که در عصر چتباتهای فراگیر، امنیت تنها به حفاظت از زیرساختهای فنی محدود نمیشود و "تابآوری شناختی" جامعه در برابر اختلالهای ناشی از هوش مصنوعی به یک ضرورت تبدیل شده است.
