پوسیدگی مغز هوش مصنوعی در اثر آموزش با محتوای بیکیفیت شبکههای اجتماعی
بر اساس تحقیق دانشگاههای آمریکایی، آموزش مدلهای هوش مصنوعی با محتوای سطحی شبکههای اجتماعی باعث افت دائمی عملکرد شناختی و افزایش خطاهای استدلالی میشود. این پدیده "جهش فکری" نام گرفته و شبیه تأثیر محتوای کمارزش بر مغز انسان است.
پوسیدگی مغز هوش مصنوعی: خطری دیجیتال
تحقیقات جدید نشان میدهد که آموزش مدلهای زبانی بزرگ (LLM) با محتوای بیکیفیت شبکههای اجتماعی مانند پستهای وایرال توییتر، باعث "پوسیدگی مغز دیجیتال" در هوش مصنوعی میشود. پژوهش مشترک دانشگاههای Texas A&M، تگزاس آستین و Purdue نشان میدهد که قرارگیری مداوم در معرض این محتواها منجر به افت دائمی عملکرد شناختی و استدلالی مدلها شده و پدیدهای به نام "جهش فکری" (Thought-Skipping) ایجاد میکند.
- کاهش تواناییهای استدلالی: مدلها زنجیرههای فکری خود را کوتاه یا حذف میکنند
- افزایش خطاها: نقص در درک زمینه و انسجام فکری مشاهده شده است
- گرایشهای روانپریشانه: محتوای بیکیفیت باعث افزایش خودشیفتگی در مدلها میشود
- اثرات ماندگار: حتی با تزریق دادههای باکیفیت، آسیبهای شناختی باقی میماند
- شباهت به انسان: الگوی مشابهی بین تأثیر محتوای سطحی بر انسان و هوش مصنوعی وجود دارد
"این شکاف نشان میدهد که اثر پوسیدگی مغز بهطور عمیقی در مدلها درونی شده و تنظیمات آموزشی فعلی قادر به اصلاح آن نیستند"
"وابستگی بیشازحد انسانها به هوش مصنوعی، باعث افت تواناییهای شناختی خود آنها نیز خواهد شد"
این مطالعه هشدار جدی درباره خطرات سوءتغذیه دیجیتال برای هر دو سیستم انسانی و مصنوعی ارائه میدهد.
