تاثیر عاملهای هوش مصنوعی بر دفاع ساییبری سازمانها
گوگل کلاد در پیشبینیهای خود برای سال ۲۰۲۷، پنج تحول مهم در امنیت سایبری کسبوکارها را شناسایی کرده است. گسترش دفاع خودکار، مدیریت هویت عاملهای هوش مصنوعی و بازنگری در شیوه مقابله با تهدیدها از مهمترین محورهای این تحولات هستند.
هوش مصنوعی عاملمحور در حال تغییر معادلات امنیت سایبری است. پیشبینیهای گوگل کلاد نشان میدهد که تا سال ۲۰۲۷، بخش مهمی از فرایند شناسایی تهدیدها و پاسخ به حملات به عاملهای هوشمند سپرده میشود؛ تغییری که هم روش فعالیت تیمهای امنیتی را دگرگون میکند و هم چالشهای تازهای در زمینه مدیریت دسترسی، امنیت نرمافزار و نظارت بر عاملهای هوش مصنوعی به وجود میآورد.
استفاده از مدلهای زبانی بزرگ (LLM) و عاملهای هوش مصنوعی، سرعت انجام عملیات امنیتی را افزایش داده است. سازمانها از این فناوریها برای شناسایی آسیبپذیریها، تحلیل رفتارهای مشکوک و پاسخ به تهدیدها استفاده میکنند. در مقابل، مهاجمان نیز به ابزارهایی دسترسی پیدا کردهاند که امکان اجرای حملات پیچیدهتر و سریعتر را فراهم میکند.
در چنین شرایطی، روشهای سنتی دفاع سایبری که به بررسی دستی هشدارها و مداخله مستمر تحلیلگران متکی است، با محدودیتهای بیشتری روبهرو خواهند شد. گوگل کلاد در پیشبینیهای خود برای سال ۲۰۲۷، پنج تحول مهم را در این حوزه شناسایی کرده است.
هوش مصنوعی مدیریت هشدارهای امنیتی را دگرگون میکند
حجم بالای هشدارهای امنیتی یکی از مشکلات همیشگی مراکز عملیات امنیت (SOC) به شمار میرود. تحلیلگران این مراکز روزانه با تعداد زیادی هشدار مواجه میشوند که بخشی از آنها مثبت کاذب هستند یا تهدید جدی به شمار نمیروند. بررسی این هشدارها زمان زیادی میگیرد و فرصت تیمهای امنیتی برای رسیدگی به حملات واقعی را کاهش میدهد.
ورود عاملهای هوش مصنوعی به این فرایند، شکل مدیریت هشدارها را تغییر میدهد. مهاجمان میتوانند با استفاده از ابزارهای خودکار، در مدت کوتاهی شبکههای سازمانی را بررسی کنند، به سامانهها نفوذ کنند و در بخشهای مختلف زیرساخت حرکت کنند. در برابر چنین حملاتی، بررسی جداگانه هشدارها و تحلیل دستی رویدادها سرعت لازم را ندارد.
براساس پیشبینی گوگل، عاملهای هوشمند در سال ۲۰۲۷ بخش بیشتری از فرایند بررسی امنیتی را برعهده خواهند گرفت. این عاملها اطلاعات را از منابع مختلف جمعآوری میکنند، ارتباط میان رویدادها را تشخیص میدهند و هشدارها را براساس میزان اهمیت اولویتبندی میکنند.
در این الگو، تحلیلگران بهجای بررسی تکتک هشدارها، نتایج تحلیل عاملهای هوشمند را ارزیابی و بر فرایند پاسخ به تهدیدها نظارت میکنند. رامیا چیتراکار، معاون مهندسی امنیت گوگل کلاد، معتقد است سال ۲۰۲۷ نقطهای است که در آن وظیفه تحلیلگران امنیتی از پیگیری هشدارها به هدایت نتایج امنیتی تغییر میکند.
نیاز عاملهای هوش مصنوعی به هویت مستقل و سطح دسترسی مشخص
افزایش استفاده سازمانها از عاملهای هوش مصنوعی، مسئله مدیریت هویت و دسترسی را پیچیدهتر میکند. سازمانها ممکن است هزاران عامل را برای انجام وظایف مختلف به کار بگیرند؛ عاملهایی که به دادهها، سامانهها و منابع سازمانی دسترسی دارند و بخشی از فعالیتهای خود را بدون دخالت مستقیم نیروی انسانی انجام میدهند. اگر هویت و سطح دسترسی این عاملها بهدرستی مدیریت نشود، خود آنها میتوانند به مسیری برای نفوذ مهاجمان تبدیل شوند.
در گزارش گوگل عنوان شده است که هر عامل هوش مصنوعی باید هویت مستقلی داشته باشد و دسترسی آن به منابع سازمانی براساس وظایفی که انجام میدهد، تعریف شود. این رویکرد شباهت زیادی به سازوکار مدیریت حسابهای کاربری کارکنان دارد؛ با این تفاوت که هویت عاملها باید متناسب با ماهیت فعالیت خودکار آنها مدیریت شود.
هدر ادکینز، معاون مهندسی امنیت گوگل، بر ضرورت گسترش مفهوم اعتماد صفر (Zero Trust) تأکید میکند. به اعتقاد او، این الگو باید فراتر از لایه شبکه اجرا شود و هر درخواست دسترسی یا تراکنش را بهصورت مستقل اعتبارسنجی کند.
عاملهای هوش مصنوعی باید اعتبارنامه اختصاصی و حداقل سطح دسترسی موردنیاز را داشته باشند. همچنین سازمانها باید بتوانند در صورت مشاهده رفتار غیرعادی یا پایان نیاز به یک عامل، دسترسی آن را لغو کنند.
تأیید یک درخواست در شرایط عادی به معنای تأیید همیشگی آن نیست. سامانههای امنیتی میتوانند با بررسی رفتار عامل و شرایط هر درخواست، درباره ادامه یا مسدودسازی دسترسی تصمیم بگیرند.
افزایش سرعت توسعه نرمافزار، چالشی برای امنیت زنجیره تأمین
ابزارهای هوش مصنوعی به فرایند تولید و انتشار نرمافزار سرعت بخشیدهاند. توسعهدهندگان با کمک این ابزارها کد تولید میکنند و برای انجام وظایف مختلف از کتابخانهها و منابع نرمافزاری خارجی بهره میگیرند. این سرعت، در صورت نبود کنترلهای امنیتی مناسب، میتواند زمینه سواستفاده مهاجمان را فراهم کند.
حمله به زنجیره تأمین نرمافزار یکی از تهدیدهای جدی در این حوزه است. مهاجمان میتواند کدهای مخرب را در کتابخانههای متنباز، ابزارهای توسعه یا منابع نرمافزاری مورد استفاده دستیارهای برنامهنویسی هوشمند قرار دهند. بدینترتیب ابزارهای خودکار توسعه نرمافزار ناخواسته از کدهای آلوده استفاده میکنند.
ساندرا جویس، معاون اطلاعات تهدیدات گوگل، هشدار میدهد که مهاجمان بهدنبال سواستفاده از فرایندهای خودکار توسعه نرمافزار و آلودهسازی منابعی هستند که این ابزارها به آنها متکیاند.
گوگل تاکید میکند برای مقابله با این تهدید، امنیت باید در تمام مراحل توسعه نرمافزار ادغام شود. بررسی امنیتی نباید به زمان پیش از انتشار محصول موکول شود؛ کدها و وابستگیهای نرمافزاری باید همزمان با توسعه بررسی شوند.
یکی دیگر از پیشنهادهای مطرحشده در گزارش گوگل، ایجاد ارتباط میان محیط عملیاتی نرمافزار و کد منبع آن است. این ارتباط به تیمهای امنیتی امکان میدهد منشأ آسیبپذیری را در بخش مشخصی از کد شناسایی کنند، میزان خطر آن را بسنجند و پیش از اعمال اصلاحات در محیط عملیاتی، راهکار پیشنهادی را آزمایش کنند.
انجام آزمون نفوذ برای عاملهای هوش مصنوعی
استفاده از عاملهای هوش مصنوعی در سازمانها با سرعت زیادی گسترش یافت با این حال توسعه این ابزارها همواره با ارزیابی امنیتی متناسب همراه نبوده است. هر عامل جدید یا گردشکار خودکار میتواند آسیبپذیریهایی ایجاد کند که در سامانههای سنتی وجود نداشتهاند.
تزریق غیرمستقیم دستور (Indirect Prompt Injection)، پیکربندی نادرست و دور زدن سازوکارهای امنیتی از جمله تهدیدهایی هستند که ممکن است عملکرد عاملهای هوش مصنوعی را تحت تأثیر قرار دهند.
از طرف دیگر، ابزارهای هوش مصنوعی در اختیار طیف گستردهای از مهاجمان قرار گرفتهاند. این ابزارها میتوانند فرایند شناسایی نقاط ضعف و اجرای برخی مراحل حمله را سادهتر و سریعتر کنند. درگزارش گوگل پیشنهاد میشود سازمانها دامنه آزمونهای امنیتی خود را گسترش دهند و عاملهای هوش مصنوعی را نیز در برنامههای آزمون نفوذ و تمرینهای تیم قرمز (Red Team) قرار دهند.
متخصصان امنیت با شبیهسازی حملات تلاش میکنند نقاط ضعف عاملها و گردشکارهای خودکار را پیش از ورود آنها به محیط عملیاتی شناسایی کنند. ترکیب نتایج این آزمونها با اطلاعات تهدیدات سایبری نیز به سازمانها کمک میکند نقاط آسیبپذیر را بهتر بشناسند و سامانههای تشخیص و پاسخ به تهدید را بهبود دهند.
نیاز سازمانها به شبکهای از عاملهای تخصصی و تحت نظارت
استفاده بیرویه از عاملهای هوش مصنوعی در واحدهای مختلف سازمان، مسئله تازهای در مدیریت و نظارت بر فناوری ایجاد میکند. ممکن است هر واحد برای انجام وظایف خود عامل مستقلی بسازد، بدون آنکه واحد فناوری اطلاعات یا تیم امنیت سایبری از فعالیت و سطح دسترسی آن اطلاع داشته باشد.
این وضعیت به پدیدهای مشابه فناوری اطلاعات سایه (Shadow IT) منجر میشود؛ شرایطی که در آن کارکنان از ابزارها و سامانههای تأییدنشده استفاده میکنند و کنترل متمرکزی بر آنها وجود ندارد.
گوگل در گزارش اخیر خود تاکید میکند که استفاده از یک عامل عمومی برای پاسخگویی به تمام نیازهای امنیتی سازمان، راهکار مناسبی نیست. وظایف امنیتی ماهیت متفاوتی دارند و هرکدام به دانش و ابزارهای تخصصی نیازمند هستند. برای مثال، عاملی که برای تحلیل بدافزار طراحی شده است، توانایی بررسی دسترسیهای هویتی یا شناسایی ناهنجاریهای شبکه را ندارد.
راهکار پیشنهادی گوگل، ایجاد شبکهای هماهنگ از عاملهای تخصصی است. در این ساختار، هر عامل وظیفه مشخصی دارد و با دانش، حافظه و ابزارهای متناسب با همان وظیفه فعالیت میکند. یک عامل مرکزی نیز مسئولیت هماهنگی میان عاملها و ارجاع وظایف را برعهده میگیرد.
این عامل مرکزی باید تشخیص دهد هر مسئله به کدام عامل تخصصی ارجاع داده شود و در چه شرایطی تصمیمگیری به نیروی انسانی واگذار شود. گوگل همچنین بر ضرورت تدوین چارچوبهای حاکمیتی پیش از گسترش عاملهای هوش مصنوعی تأکید دارد. تعیین حدود اختیارات، نظارت بر فعالیتها و مشخص کردن مسئولیت هر عامل، از جمله الزاماتی است که سازمانها باید در طراحی این ساختار در نظر بگیرند.
پیشبینیهای گوگل کلاد حاکی از آن است که ورود عاملهای هوش مصنوعی به زیرساختهای سازمانی، تعریف امنیت سایبری را تغییر میدهد. عاملهای هوش مصنوعی به ابزارهای شناسایی و مقابله با تهدیدها تبدیل میشوند با این حال هویت، سطح دسترسی و رفتار این عاملها باید مانند سایر اجزای زیرساخت سازمان تحت نظارت انسانی قرار داشته باشند.