هوش مصنوعی در سنگر امنیت سایبری؛ دستیار هوشمند یا سطح حمله جدید؟روایت کارشناسان در الکامپ

ورود هوش مصنوعی به حوزه امنیت سایبری، معادلات دفاع و حمله را وارد مرحله‌ای تازه کرده است. فناوری‌ای که می‌تواند در چند ثانیه حجم عظیمی از داده‌های امنیتی را تحلیل کند، الگوهای مشکوک را شناسایی و بخشی از فرآیند پاسخ به حوادث را خودکار کند، هم‌زمان می‌تواند به ابزاری در اختیار مهاجمان برای طراحی حملات پیچیده‌تر تبدیل شود.

این دوگانگی، یکی از مهم‌ترین محورهای پنل تخصصی «امنیت سایبری و هوش مصنوعی» در سلسله‌نشست‌های Elecom Talks در نمایشگاه الکامپ بود؛ نشستی که در آن جمعی از متخصصان و مشاوران حوزه امنیت سایبری کشور، ابعاد مختلف استفاده از هوش مصنوعی در دفاع سایبری، مراکز عملیات امنیت (SOC)، تست نفوذ، مدیریت داده و تهدیدات نوظهور مرتبط با سامانه‌های مبتنی بر AI را بررسی کردند.

مدیریت این پنل را پگاه خجسته، معاون امنیت شرکت راهبرد هوشمند شهر بر عهده داشت و فرشاد علیزاده، مشاور ارشد امنیت در حوزه شبکه و امنیت سایبری، عباس هیبتی، مشاور امنیت در حوزه تست نفوذ و امن‌سازی، احمدرضا اسدی جوزانی، مشاور امنیت در حوزه امنیت دفاعی و آرش اسامی، مشاور ارشد امنیت در حوزه مدیریت امنیت اطلاعات، دیدگاه‌های خود را درباره فرصت‌ها و تهدیدهای هوش مصنوعی در امنیت سایبری مطرح کردند.

آنچه از این گفت‌وگوها به دست می‌آید، تصویری ساده از «AI به‌عنوان یک ابزار امنیتی» نیست. هوش مصنوعی در حال تبدیل‌شدن به بخشی از معماری امنیتی سازمان‌هاست؛ اما استفاده نادرست از آن می‌تواند همان فناوری را به یک سطح حمله جدید تبدیل کند.

پیش از هوش مصنوعی، باید امنیت پایه را جدی گرفت

یکی از مباحث کلیدی مطرح‌شده در این نشست، جایگاه هوش مصنوعی در معماری کلی امنیت سازمان‌ها بود.

فرشاد علیزاده با تأکید بر اینکه هوش مصنوعی نباید به‌عنوان نخستین و تنها خط دفاعی یک سازمان در نظر گرفته شود، بر ضرورت ایجاد و حفظ اصول پایه امنیت پیش از استفاده از فناوری‌های هوشمند تأکید کرد.

به اعتقاد او، استفاده از ابزارهایی مانند فایروال‌های نسل جدید، WAF و راهکارهای XDR زمانی می‌تواند اثربخشی واقعی داشته باشد که زیرساخت سازمان از حداقل الزامات امنیتی برخوردار باشد.

به بیان ساده‌تر، نمی‌توان ضعف‌های بنیادی یک سازمان را با اضافه‌کردن یک ابزار هوش مصنوعی برطرف کرد.

اگر سازمانی فرآیندهایی مانند مدیریت وصله‌های امنیتی (Patch Management)، سخت‌سازی زیرساخت‌ها (Hardening) و توسعه و کدنویسی امن (Secure Coding) را جدی نگرفته باشد، حتی پیشرفته‌ترین ابزارهای امنیتی مبتنی بر هوش مصنوعی نیز نمی‌توانند تمام مشکلات ایجادشده در لایه‌های زیرین را جبران کنند.

این موضوع به‌ویژه در توسعه سامانه‌هایی که خودشان مبتنی بر هوش مصنوعی هستند اهمیت بیشتری پیدا می‌کند. امنیت نباید بعد از توسعه یک مدل یا محصول AI به آن اضافه شود، بلکه باید از مراحل ابتدایی طراحی و توسعه در معماری آن لحاظ شود.

در چنین معماری‌ای، هوش مصنوعی بیشتر نقش یک لایه تکمیلی دفاعی را بر عهده خواهد داشت؛ لایه‌ای که می‌تواند برای شناسایی تهدیدهای پیچیده، تحلیل رفتارهای غیرعادی و کشف الگوهایی که تشخیص آنها برای انسان دشوار است مورد استفاده قرار گیرد.

بنابراین، مسئله اصلی این نیست که سازمان «AI دارد یا ندارد»؛ بلکه این است که آیا زیرساخت امنیتی سازمان برای استفاده مؤثر و ایمن از AI آماده است یا خیر.

هوش مصنوعی؛ ابزاری دوطرفه در دست مدافع و مهاجم

در سوی دیگر این بحث، هوش مصنوعی تنها یک فناوری دفاعی نیست. مهاجمان سایبری نیز می‌توانند از قابلیت‌های آن برای افزایش سرعت و مقیاس حملات استفاده کنند.

عباس هیبتی در این بخش به نقش دوگانه AI در فرآیندهای Red Teaming و Blue Teaming اشاره کرد.

از نگاه او، همان قابلیتی که می‌تواند به یک تیم امنیتی برای تحلیل آسیب‌پذیری‌ها، بررسی سناریوهای حمله و ارزیابی وضعیت دفاعی سازمان کمک کند، ممکن است توسط مهاجمان برای توسعه و بهینه‌سازی سناریوهای تهاجمی مورد استفاده قرار گیرد.

این مسئله باعث شده است که مفهوم سطح حمله نیز در حال تغییر باشد.

در معماری‌های سنتی، متخصصان امنیت عمدتاً سرورها، شبکه‌ها، نرم‌افزارها، تجهیزات و سرویس‌های در معرض اینترنت را به‌عنوان بخش‌هایی از Attack Surface در نظر می‌گرفتند. اما با ورود گسترده سامانه‌های هوش مصنوعی، خود مدل، داده‌های مورد استفاده مدل، رابط‌های ارتباطی و ابزارهایی که مدل به آنها دسترسی دارد نیز می‌توانند بخشی از این سطح حمله باشند.

Prompt Injection؛ وقتی ورودی کاربر به تهدید تبدیل می‌شود

یکی از نمونه‌های این تغییر، ظهور حملاتی مانند Prompt Injection است.

در این نوع حملات، مهاجم تلاش می‌کند با طراحی یا دستکاری ورودی‌هایی که به مدل هوش مصنوعی ارائه می‌شوند، رفتار مدل را تحت تأثیر قرار دهد.

در صورتی که یک سامانه AI به اطلاعات حساس، ابزارهای داخلی یا سایر سرویس‌های سازمان متصل باشد، پیامد چنین حمله‌ای می‌تواند فراتر از تولید یک پاسخ اشتباه باشد.

مهاجم ممکن است تلاش کند مدل را وادار به نادیده‌گرفتن دستورالعمل‌های اصلی، افشای اطلاعاتی که نباید در اختیار کاربر قرار گیرد یا انجام اقداماتی خارج از سیاست‌های تعریف‌شده کند.

از همین رو، امنیت سامانه‌های هوش مصنوعی تنها به امنیت خود مدل محدود نمی‌شود. نحوه پیکربندی مدل، سطح دسترسی آن، منابع داده، ابزارهای متصل و سیاست‌های کنترل دسترسی همگی باید در فرآیند ارزیابی امنیتی مورد توجه قرار گیرند.

این تغییر، وظیفه تیم‌های امنیتی را نیز پیچیده‌تر کرده است؛ چراکه آنها اکنون باید علاوه بر آسیب‌پذیری‌های سنتی، رفتار مدل و نحوه تعامل آن با کاربران و سایر سیستم‌ها را نیز بررسی کنند.

SOC در برابر سیل داده‌ها؛ جایی که AI می‌تواند واقعاً کمک کند

یکی از حوزه‌هایی که بیشترین ظرفیت را برای استفاده عملی از هوش مصنوعی دارد، مرکز عملیات امنیت یا SOC است.

SOCهای سازمان‌های بزرگ روزانه با حجم بسیار زیادی از لاگ‌ها، رویدادهای امنیتی و هشدارهای مختلف مواجه هستند. وقتی این حجم داده به چندصد ترابایت در روز می‌رسد، بررسی تک‌تک رویدادها توسط نیروی انسانی عملاً امکان‌پذیر نیست.

در چنین شرایطی، یکی از مهم‌ترین مشکلات تیم‌های SOC، Alert Fatigue یا خستگی ناشی از هشدارها است.

تحلیلگران، به‌خصوص در لایه‌های ابتدایی SOC، ممکن است با تعداد بسیار زیادی هشدار مواجه شوند که همه آنها ارزش یکسانی ندارند. بخشی از این هشدارها نیز در نهایت به تهدید واقعی منجر نمی‌شوند.

آرش اسامی در این بخش از نشست، دو قابلیت Contextual Analytics و Automated Triage را از مهم‌ترین ظرفیت‌های هوش مصنوعی برای تیم‌های دفاعی دانست.

هوش مصنوعی می‌تواند به جای آنکه تحلیلگر انسانی را با هزاران رویداد خام مواجه کند، اطلاعات مختلف را کنار یکدیگر قرار دهد و با ایجاد زمینه مناسب‌تر، مشخص کند کدام رویدادها ارزش بررسی بیشتری دارند.

برای مثال، یک هشدار به‌تنهایی ممکن است چندان مهم نباشد؛ اما اگر همان هشدار در کنار رفتار غیرمعمول یک حساب کاربری، ارتباط مشکوک شبکه‌ای و تغییرات غیرعادی روی یک سیستم قرار گیرد، اهمیت آن افزایش پیدا می‌کند.

توانایی تحلیل این ارتباطات می‌تواند به تیم امنیتی کمک کند تا از میان حجم عظیم داده‌ها، موارد مهم‌تر را سریع‌تر شناسایی کند.

کاهش MTTD و MTTR؛ مزیت اصلی سرعت در عملیات امنیت

یکی از اهداف اصلی استفاده از AI در SOC، کاهش زمان مورد نیاز برای شناسایی و پاسخ به حوادث است.

دو شاخص مهم در این زمینه، MTTD یا Mean Time to Detect و MTTR یا Mean Time to Respond/Remediate هستند.

هرچه زمان شناسایی یک تهدید کاهش پیدا کند، احتمال محدودکردن دامنه خسارت نیز افزایش می‌یابد. به همین دلیل، هوش مصنوعی می‌تواند با تحلیل سریع داده‌ها و اولویت‌بندی هشدارها، بخشی از فشار موجود بر تیم‌های امنیتی را کاهش دهد.

اما اینجا نیز یک شرط مهم وجود دارد: هوش مصنوعی باید داده مناسب دریافت کند.

Garbage In, Garbage Out؛ هوش مصنوعی بدون داده باکیفیت معجزه نمی‌کند

اصل معروف Garbage In, Garbage Out یکی از مهم‌ترین محدودیت‌هایی است که در استفاده از AI در امنیت سایبری باید مورد توجه قرار گیرد.

اگر داده‌های ورودی یک سامانه هوشمند ناقص، نامرتبط، قدیمی یا دارای کیفیت پایین باشند، خروجی سیستم نیز الزاماً قابل اتکا نخواهد بود.

در یک SOC، این موضوع می‌تواند خود را در قالب افزایش False Positive نشان دهد؛ یعنی سامانه تعداد زیادی هشدار تولید کند که در نهایت تهدید واقعی نیستند.

در چنین شرایطی، استفاده از هوش مصنوعی نه‌تنها بار کاری تحلیلگران را کاهش نمی‌دهد، بلکه ممکن است حجم هشدارهایی را که باید بررسی کنند افزایش دهد.

بنابراین، پیاده‌سازی AI در SOC نباید صرفاً به خرید یا نصب یک محصول محدود شود. سازمان باید به کیفیت لاگ‌ها، معماری جمع‌آوری داده، استانداردسازی اطلاعات، ارتباط میان منابع مختلف و فرآیندهای تحلیل نیز توجه داشته باشد.

آیا هوش مصنوعی جای تحلیلگران امنیتی را می‌گیرد؟

یکی از نگرانی‌های مطرح درباره ورود AI به امنیت سایبری، احتمال حذف نیروی انسانی است.

اما بر اساس دیدگاه مطرح‌شده در این نشست، آینده لزوماً به معنای حذف متخصصان امنیتی نیست؛ بلکه ماهیت فعالیت آنها تغییر خواهد کرد.

اگر هوش مصنوعی بخشی از کارهای تکراری مانند دسته‌بندی اولیه هشدارها، پردازش حجم زیادی از داده و برخی تحلیل‌های اولیه را انجام دهد، متخصصان می‌توانند زمان بیشتری را صرف تحلیل تهدیدات پیچیده، تصمیم‌گیری و شکار تهدید کنند.

در چنین شرایطی، حتی ممکن است نقش‌های جدیدی در تقاطع میان امنیت سایبری و هوش مصنوعی شکل بگیرند؛ از جمله حوزه‌هایی مانند مهندسی داده‌های امنیتی و شکار تهدید مبتنی بر هوش مصنوعی (AI Threat Hunting).

در نتیجه، مهارت مورد نیاز نیروی امنیتی آینده نیز صرفاً شناخت ابزارهای سنتی امنیت نخواهد بود. توانایی کار با داده، درک مدل‌های هوش مصنوعی و مهم‌تر از همه، تشخیص خطاهای احتمالی خروجی مدل می‌تواند به یکی از مهارت‌های مهم متخصصان امنیت تبدیل شود.

داده‌های سازمانی؛ مهم‌ترین خط قرمز هنگام استفاده از AI

یکی دیگر از محورهای مهم پنل، مسئله حفاظت از داده‌های سازمانی بود.

گسترش ابزارهای هوش مصنوعی عمومی باعث شده است کارکنان بتوانند برای طیف وسیعی از فعالیت‌ها از مدل‌های زبانی و سرویس‌های AI کمک بگیرند؛ از تولید و اصلاح کد گرفته تا تحلیل لاگ، تهیه گزارش یا حل مشکلات فنی.

اما همین سهولت استفاده می‌تواند یک ریسک جدی ایجاد کند.

اگر کاربر بدون اطلاع از سیاست‌های سازمانی، اطلاعات حساس، کدهای محرمانه، لاگ‌های داخلی، اطلاعات مشتریان یا سایر داده‌های سازمانی را در اختیار یک سرویس عمومی قرار دهد، ممکن است کنترل سازمان بر آن داده‌ها کاهش پیدا کند.

عباس هیبتی بر ضرورت تدوین سیاست‌های مشخص برای تعامل سازمان با سامانه‌های هوش مصنوعی تأکید کرد.

سازمان باید به‌روشنی مشخص کند چه داده‌هایی مجاز به ورود به ابزارهای عمومی AI هستند و چه داده‌هایی باید تحت هیچ شرایطی از محیط کنترل‌شده سازمان خارج نشوند.

این موضوع در واقع بخشی از حاکمیت داده است و نمی‌توان آن را صرفاً به واحد فناوری اطلاعات یا تیم امنیت واگذار کرد.

حرکت به سمت مدل‌های On-Premise

یکی از راهکارهایی که می‌تواند برای سازمان‌های دارای اطلاعات حساس مورد توجه قرار گیرد، استفاده از مدل‌های هوش مصنوعی در محیط داخلی سازمان یا On-Premise است.

در این معماری، مدل و داده‌های مورد استفاده آن می‌توانند در زیرساخت تحت کنترل سازمان قرار داشته باشند و نیاز به ارسال اطلاعات حساس به سرویس‌های عمومی کاهش پیدا کند.

با این حال، On-Premise بودن یک مدل به‌تنهایی به معنای امن بودن آن نیست.

سازمان همچنان باید کنترل دسترسی، به‌روزرسانی مدل، امنیت زیرساخت، ثبت رخدادها، کنترل ورودی و خروجی و سایر الزامات امنیتی را مدیریت کند.

از سوی دیگر، مطرح‌شدن فناوری‌هایی مانند پردازش کوانتومی نیز بحث آینده زیرساخت‌های پردازشی و امکان توسعه مدل‌های قدرتمندتر را به میان آورده است؛ موضوعی که نشان می‌دهد رقابت میان قدرت پردازشی، هوش مصنوعی و امنیت سایبری در سال‌های آینده پیچیده‌تر خواهد شد.

سرعت در برابر ریسک؛ آیا می‌توان هر دو را هم‌زمان داشت؟

در بخش دیگری از نشست، کارشناسان به یک سؤال اساسی پرداختند: آیا سازمان باید برای افزایش سرعت عملیات، استفاده از AI را گسترش دهد یا برای کاهش ریسک، آن را محدود کند؟

پاسخ ارائه‌شده بیشتر بر ایجاد تعادل میان این دو رویکرد استوار بود.

عباس هیبتی معتقد بود که استفاده از هوش مصنوعی با مدیریت و نظارت مناسب می‌تواند کنترل‌پذیر باشد. از این منظر، مشکل لزوماً خود فناوری نیست؛ بلکه نحوه استفاده، سطح دسترسی و کنترل‌هایی است که برای آن تعریف می‌شود.

هرچه یک مدل هوش مصنوعی دسترسی بیشتری به سیستم‌های سازمان داشته باشد، اهمیت کنترل آن نیز افزایش پیدا می‌کند.

برای مثال، تفاوت زیادی میان یک مدل AI که صرفاً یک گزارش متنی تولید می‌کند و مدلی که به سامانه‌های عملیاتی، پایگاه داده یا تجهیزات زیرساختی دسترسی دارد وجود دارد.

در حالت دوم، یک خطای مدل یا سوءاستفاده از آن می‌تواند پیامدهای بسیار جدی‌تری داشته باشد.

بنابراین، یکی از اصول مهم در استفاده سازمانی از AI، محدودکردن دسترسی مدل به اندازه نیاز واقعی آن است.

انسان همچنان حلقه نهایی تصمیم‌گیری است

فرشاد علیزاده نیز بر اهمیت دانش تخصصی انسان در استفاده از خروجی‌های هوش مصنوعی تأکید کرد.

به گفته او، استفاده از AI نباید باعث شود متخصصان امنیتی قدرت تحلیل مستقل خود را کنار بگذارند.

برای نمونه، اگر یک کارشناس امنیت از AI برای دریافت یک Configuration یا تحلیل یک لاگ کمک بگیرد، باید دانش کافی برای بررسی و صحت‌سنجی پاسخ داشته باشد.

یک مدل هوش مصنوعی ممکن است پاسخی کاملاً منطقی و حرفه‌ای به نظر برساند، اما این به معنای صحیح‌بودن آن در شرایط واقعی نیست.

کارشناس باید بتواند پاسخ را با وضعیت واقعی زیرساخت، سیاست‌های سازمان و الزامات امنیتی مقایسه کند و سپس درباره اجرای آن تصمیم بگیرد.

در این مدل، AI نقش دستیار متخصص را دارد، نه جایگزین متخصص.

هوش مصنوعی می‌تواند سرعت دسترسی به اطلاعات، تولید پیشنهاد و پردازش داده را افزایش دهد؛ اما قضاوت نهایی در محیط‌های حساس همچنان به دانش و مسئولیت انسانی نیاز دارد.

نسل جدید تجهیزات امنیتی نیز به سمت AI حرکت کرده است

ورود هوش مصنوعی به امنیت سایبری تنها به مدل‌های زبانی یا دستیارهای هوشمند محدود نیست.

تولیدکنندگان تجهیزات و راهکارهای امنیتی نسل جدید نیز قابلیت‌های مبتنی بر هوش مصنوعی و یادگیری ماشین را در محصولات خود ادغام کرده‌اند.

هدف این قابلیت‌ها، کمک به کشف رفتارهای غیرعادی، شناسایی الگوهای ناشناخته و افزایش سرعت واکنش به تهدیدات است.

این روند نشان می‌دهد که AI به‌تدریج در حال تبدیل‌شدن به بخشی از لایه‌های مختلف معماری امنیتی است؛ از نقطه پایانی و شبکه گرفته تا SOC و فرآیندهای تحلیل تهدید.

با این حال، همان‌طور که کارشناسان این نشست تأکید کردند، وجود قابلیت AI در یک محصول به‌تنهایی تضمین‌کننده امنیت نیست.

سازمان باید بداند این قابلیت دقیقاً چه داده‌ای دریافت می‌کند، چگونه تصمیم می‌گیرد، چه سطحی از دسترسی دارد و در صورت خطا چه پیامدی ایجاد خواهد شد.

جمع‌بندی؛ AI نه ناجی امنیت است و نه دشمن آن

بحث‌های مطرح‌شده در پنل «امنیت سایبری و هوش مصنوعی» نشان می‌دهد که آینده امنیت سایبری را نمی‌توان با یک دوگانه ساده میان «انسان» و «ماشین» توضیح داد.

هوش مصنوعی می‌تواند حجم عظیمی از داده‌ها را با سرعتی بسیار بیشتر از انسان پردازش کند، در اولویت‌بندی هشدارها نقش داشته باشد، تحلیل‌های زمینه‌ای ارائه دهد و به کاهش زمان شناسایی و پاسخ به تهدیدات کمک کند.

در مقابل، همین فناوری می‌تواند به مهاجمان نیز کمک کند تا حملات خود را سریع‌تر و پیچیده‌تر طراحی کنند. علاوه بر این، خود سامانه‌های AI نیز به سطح حمله جدیدی تبدیل شده‌اند و تهدیدهایی مانند Prompt Injection نشان می‌دهد که معماری امنیتی آینده باید مدل‌های هوش مصنوعی و نحوه تعامل آنها با داده و سیستم‌های دیگر را نیز در نظر بگیرد.

از سوی دیگر، استفاده بدون سیاست از ابزارهای عمومی AI می‌تواند داده‌های سازمانی را در معرض ریسک قرار دهد و اتکای بیش از حد به خروجی مدل نیز می‌تواند خطاهای جدیدی ایجاد کند.

در چنین شرایطی، مسیر منطقی برای سازمان‌ها نه ترک هوش مصنوعی است و نه واگذاری کامل تصمیم‌های امنیتی به آن.

مدل آینده، همکاری میان انسان و ماشین است؛ هوش مصنوعی برای پردازش، سرعت و کشف الگوها و انسان برای قضاوت، اعتبارسنجی، مدیریت ریسک و تصمیم‌گیری.

در نهایت، سازمانی در عصر AI موفق‌تر خواهد بود که ابتدا اصول پایه امنیت خود را جدی گرفته باشد، داده‌هایش را مدیریت کند، سیاست مشخصی برای استفاده از هوش مصنوعی داشته باشد، سطح دسترسی مدل‌ها را کنترل کند و دانش متخصصان انسانی را همچنان در مرکز فرآیند تصمیم‌گیری نگه دارد.

هوش مصنوعی می‌تواند یکی از قدرتمندترین دستیارهای امنیت سایبری باشد؛ اما اگر بدون معماری امن، داده باکیفیت و نظارت انسانی وارد سازمان شود، همان دستیار می‌تواند به بخشی از سطح حمله تبدیل شود.