داده‌های داخلی نباید به سیستم‌های هوش مصنوعی خارجی پمپاژ شود

هوش مصنوعی و امنیت سایبری: فرصت‌ها و تهدیدها

محمود سلماسی‌زاده، رئیس انجمن رمز ایران، در گفت‌وگو با مهر بر اهمیت احتیاط در استفاده از هوش مصنوعی در حوزه امنیت سایبری تأکید کرد. وی بیان کرد که هوش مصنوعی می‌تواند هم ابزار قدرتمندی برای تأمین امنیت باشد و هم تهدیدی پنهان محسوب شود. جهت‌گیری مدل‌های هوش مصنوعی و چگونگی حفاظت از داده‌های داخلی از نگرانی‌های اصلی است. سلماسی‌زاده هشدار داد که داده‌های داخلی نباید به سیستم‌های هوش مصنوعی خارجی پمپاژ شود، زیرا این عمل دو خطر عمده در پی دارد: نخست اینکه پاسخ‌های هدف‌دار به داده‌ها داده می‌شود و دوم اینکه داده‌های ارسالی قابل بازپس‌گیری نیستند، برخلاف جنگ فیزیکی.

• هوش مصنوعی ابزار دوسویه: هم برای ایجاد امنیت استفاده می‌شود و هم می‌تواند تهدیدآمیز باشد.
• جهت‌گیری مدل‌ها: مدل‌های هوش مصنوعی ممکن است جهت‌دار باشند، مانند موردی که یک مدل از هیتلر ستایش کرد.
• خطرات پمپاژ داده‌ها: ارسال داده‌های داخلی به سیستم‌های خارجی، استقلال دیجیتال را به خطر می‌اندازد.
• غیرقابل بازگشت بودن داده‌ها: پس از ارسال، داده‌ها قابل بازیابی نیستند.
• تلاش‌های داخلی: انجمن رمز ایران با انتشار فراخوان‌های علمی به بررسی کاربردهای ایمن هوش مصنوعی می‌پردازد.

“استقلال و حفظ استقلال دیجیتال بسیار مشکل‌تر از دیگر موارد است و قابل پس‌گیری نیست.” “هدف آن است که به شکل علمی بررسی کنیم کجاها می‌توانیم از هوش مصنوعی استفاده کنیم و کجاها استفاده از هوش مصنوعی حریم خصوصی افراد یا حتی آمار ملی کشور را به خطر می‌اندازد.”

در نتیجه، استفاده از هوش مصنوعی در امنیت سایبری نیازمند مدیریت داخلی و هوشیاری بالا است تا از تهدیدات احتمالی جلوگیری شود و استقلال دیجیتال ایران حفظ گردد.