رباتهای هوش مصنوعی با شعر به انجام جرائم ترغیب میشوند
بر اساس مطالعهای جدید، شعر و معما میتوانند ویژگیهای امنیتی رباتهای هوش مصنوعی را دور بزنند و آنها را به تولید محتوای ممنوع مانند سخنان نفرتپرستانه و دستورالعمل ساخت سلاح ترغیب کنند.
رباتهای هوش مصنوعی و آسیبپذیری در برابر شعر
طبق مطالعهای از آزمایشگاه ایکارو در ایتالیا، رباتهای هوش مصنوعی میتوانند با استفاده از شعر و معما به تولید محتوای ممنوع مانند سخنان نفرتپرستانه، دستورالعمل ساخت سلاحهای شیمیایی و هستهای ترغیب شوند. این روش که «شعر متضاد» نامیده میشود، میتواند ویژگیهای امنیتی طراحی شده برای جلوگیری از تولید محتوای خطرناک را دور بزند.
- محققان ۲۰ شعر دستساز به زبانهای ایتالیایی و انگلیسی ایجاد کردند
- این شعرها روی ۲۵ ربات هوش مصنوعی از شرکتهایی مانند گوگل، OpenAI و متا آزمایش شد
- به طور متوسط، مدلهای هوش مصنوعی به ۶۲ درصد از درخواستهای شاعرانه پاسخ ممنوع دادند
- مدلهای کوچکتر مانند GPT-5 nano در برابر این حملات مقاومت بهتری نشان دادند
متئو پرندی، یکی از پژوهشگران میگوید: «موضوع اصلی درباره معماهاست. شعر خود نوعی معما است.»
پرندی افزود: «کلید موضوع در نحوه کدگذاری و چیدمان اطلاعات است.»
این یافتهها نشان میدهد که شرکتهای توسعهدهنده هوش مصنوعی باید به طور فوری به این آسیبپذیریها توجه کنند.
