ورود OpenAI به زیرساخت هوش مصنوعی پنتاگون و هشدارهای امنیتی
شرکت اوپنایآی نسخه سفارشی چتجیپیتی را روی پلتفرم GenAI.mil وزارت دفاع آمریکا فعال کرد؛ کارشناسان درباره ریسکهای اتکای بیشازحد به این ابزارها هشدار میدهند.
استقرار نسخه سفارشی چتجیپیتی در زیرساخت دفاعی آمریکا
شرکت اوپنایآی (OpenAI) رسماً اعلام کرد که نسخه سفارشی چتجیپیتی (ChatGPT) را بر روی پلتفرم GenAI.mil وزارت دفاع آمریکا (پنتاگون) فعال نموده است. این اقدام، دسترسی گسترده ارتش آمریکا به مدلهای پیشرفته هوش مصنوعی مولد را در سطح دادههای غیرطبقهبندیشده تسهیل کرده است. این پلتفرم، که زیرساخت هوش مصنوعی وزارت دفاع آمریکا است، اکنون شامل مدلهایی از جمله جمینای گوگل و Grok شرکت xAI نیز میشود و نشاندهنده شتابگیری پنتاگون در ادغام ابزارهای تجاری هوش مصنوعی در عملیاتهای نظامی است. اوپنایآی این همکاری را اقدامی برای اطمینان از دسترسی مدافعان کشور به بهترین ابزارها دانسته و بر اهمیت درک چگونگی کمک هوش مصنوعی به حفاظت و بازدارندگی تأکید کرده است.
استقرار این فناوری در محیطهای نظامی، حتی اگر محدود به دادههای غیرطبقهبندیشده باشد، بحثهای مهمی را پیرامون امنیت دادهها و اتکای بیشازحد کاربران به خروجیهای این مدلها ایجاد کرده است.
نگرانیهای کارشناسان درباره مسئولیتپذیری و خطرات شناختی
کارشناسان حوزه فناوری و مسئولیتپذیری شرکتهای بزرگ، نسبت به رفتارهای احتمالی کاربران هنگام مواجهه با خروجیهای مدلهای زبانی بزرگ (LLMs) ابراز نگرانی کردهاند. «جی.بی. برنچ» از سازمان Public Citizen هشدار داد که اتکای بیشازحد کاربران به پاسخهای هوش مصنوعی میتواند کارایی تدابیر امنیتی را تضعیف کند. پژوهشها نشان میدهند که کاربران غالباً به پاسخهای هوش مصنوعی حسننیت نشان داده و آنها را بیشازحد معتبر میدانند. این رفتار در موقعیتهای حساس نظامی میتواند پیامدهای جدی به همراه داشته باشد، زیرا دقت تحلیل انسانی نباید با خروجیهای مدل جایگزین شود.
«هرچه نقش هوش مصنوعی در تصمیمسازی نظامی پررنگتر شود، ضرورت کنترل دقت پاسخها و درک محدودیتهای این ابزارها هم افزایش مییابد. کاربران نباید چتجیپیتی در GenAI.mil یا ابزارهای مشابه را منبع حقیقت قطعی بدانند.»
سیاستهای جدید پنتاگون و تبعات بازار
این گام در راستای سیاستهای اعلامشده وزیر دفاع آمریکا، «پیت هگست»، مبنی بر استقرار مدلهای پیشروی هوش مصنوعی در شبکههای غیرطبقهبندیشده و طبقهبندیشده اتخاذ شده است. این حرکت نه تنها توان عملیاتی را تقویت میکند، بلکه بازار بزرگی را برای شرکتهای ارائه دهنده مدلهای مولد در جهت دستیابی به سودآوری پایدار فراهم میآورد.
با وجود تأکید اوپنایآی بر اینکه نسخه سفارشی صرفاً برای دادههای غیرطبقهبندیشده است، نگرانیهایی وجود دارد مبنی بر اینکه ورود هرگونه اطلاعات حساس، حتی به سامانههای کنترلشده، میتواند سطوحی از آسیبپذیری ایجاد کند. بسیاری معتقدند تصور این ابزارها به عنوان «گاوصندوق امن» خطرناک است و نباید محدودیتهای دسترسی به اطلاعات طبقهبندیشده تحت تأثیر قرار گیرند.
- شتابگیری پنتاگون برای استفاده از مدلهای هوش مصنوعی تجاری در زیرساختهای نظامی.
- تأکید بر استفاده از چتجیپیتی در GenAI.mil صرفاً برای دادههای فاقد طبقهبندی نظامی.
- هشدارهای کارشناسان درباره اعتماد بیشازحد کاربران به پاسخهای LLMها در محیطهای پردقت.
