حملات گسترده به جمینای گوگل توسط مهاجمان با بیش از ۱۰۰ هزار پرامپت

تهدیدات امنیتی مدل‌های زبانی بزرگ: حملات به جمینای گوگل

گوگل اخیراً اعلام کرده است که Gemini، چت‌بات پیشرفته هوش مصنوعی این شرکت، هدف حملات گسترده با انگیزه تجاری قرار گرفته است. این حملات که به طور خاص «distillation attacks» نامیده می‌شوند، توسط مهاجمان برای شناسایی و استخراج منطق داخلی و الگوهای تصمیم‌گیری جمینای طراحی شده‌اند. گزارش‌ها حاکی از آن است که در جریان این حملات، بیش از ۱۰۰ هزار پرامپت (درخواست) متفاوت به سیستم ارسال شده تا عملکرد و قابلیت‌های استنباطی (reasoning) آن مهندسی معکوس شود. گوگل این اقدامات را نوعی سرقت مالکیت فکری می‌داند.

جان هولتکویست، تحلیلگر ارشد گروه اطلاعات تهدیدات گوگل، تأکید کرده است که این وسعت حملات نشان‌دهنده یک روند رو به رشد در حوزه امنیت هوش مصنوعی است و شرکت‌های کوچک‌تر نیز به‌زودی با تهدیدهای مشابه مواجه خواهند شد. این حملات عمدتاً توسط شرکت‌های خصوصی و پژوهشگران از کشورهای مختلف صورت گرفته است، هرچند هویت دقیق آن‌ها هنوز فاش نشده است. هدف اصلی این مهاجمان دستیابی به دانش نهفته در مدل‌های زبانی بزرگ (LLMs) است تا از آن برای تقویت یا توسعه مدل‌های هوش مصنوعی خود استفاده کنند.

• حملات «distillation» با هدف استخراج الگوریتم‌های داخلی و منطق پردازش اطلاعات مدل‌های هوش مصنوعی انجام می‌شوند.
• حجم بالای پرامپت‌های ارسالی (بیش از ۱۰۰ هزار مورد) نشان‌دهنده تلاش سیستماتیک برای مهندسی معکوس توانایی‌های جمینای است.
• گوگل این موضوع را هشداری برای کل صنعت هوش مصنوعی در نظر می‌گیرد، به‌ویژه با توجه به دسترسی آزاد کاربران به این ابزارها.
• آسیب‌پذیری شرکت‌ها در برابر این حملات با میزان داده‌های حساس و محرمانه مورد استفاده در آموزش مدل‌های سفارشی آن‌ها افزایش می‌یابد.
• این وضعیت شباهت به اتهامات قبلی علیه شرکت‌هایی مانند OpenAI دارد که شرکت چینی دیپ‌سیک را به انجام حملات مشابه متهم کرده بود.

به گفته گوگل، «حملات distillation نوعی سرقت مالکیت فکری محسوب می‌شود که هدفش شناسایی منطق داخلی سیستم‌های هوش مصنوعی پیشرفته است.»

هولتکویست هشدار می‌دهد: «هرچه شرکت‌ها مدل‌های زبانی سفارشی خود را با داده‌های حساس آموزش دهند، آسیب‌پذیری آن‌ها در برابر حملات distillation بیشتر می‌شود.»

در نهایت، این رویداد برای گوگل و صنعت فناوری زنگ خطری جدی به صدا درآورده است. با توجه به اینکه مدل‌های هوش مصنوعی مانند جمینای به ستون فقرات تصمیم‌گیری‌های تجاری و عملیاتی در آینده تبدیل می‌شوند، محافظت از مالکیت فکری نهفته در ساختار و داده‌های آموزشی آن‌ها، اهمیتی حیاتی پیدا کرده است. این حملات نشان می‌دهد که حتی غول‌هایی مانند گوگل نیز باید دائماً در حال به‌روزرسانی دفاعیات خود در برابر روش‌های پیچیده استخراج دانش باشند.