Data Drift چیست؟ بررسی تأثیر رانش داده بر امنیت سایبری و هوش مصنوعی

فقط تصور کنید یک سازمان برای شناسایی حملات سایبری، از سامانه‌ای مبتنی بر هوش مصنوعی استفاده می‌کند. این سامانه با بررسی حجم عظیمی از داده‌ها، الگوهای رفتاری کاربران، ترافیک شبکه و نشانه‌های حملات را تحلیل کرده و به‌تدریج به یکی از ابزارهای اصلی تیم امنیت تبدیل شده است.

داشبوردها فعال هستند، داده‌ها به سیستم وارد می‌شوند و مدل همچنان هشدار تولید می‌کند؛ اما در پشت این ظاهر عادی، اتفاق دیگری در حال رخ دادن است. رفتار کاربران تغییر کرده، معماری شبکه دگرگون شده، ابزارهای جدید وارد سازمان شده‌اند و مهم‌تر از همه، مهاجمان نیز روش‌های خود را تغییر داده‌اند. داده‌هایی که امروز وارد مدل می‌شوند، دیگر شباهت کاملی به داده‌هایی ندارند که این سیستم روزی با آن‌ها آموزش دیده بود.

اینجا نقطه‌ای است که مفهوم Data Drift یا «رانش داده» اهمیت پیدا می‌کند؛ پدیده‌ای که شاید در نگاه نخست بیشتر به حوزه علم داده و یادگیری ماشین مربوط باشد، اما با گسترش استفاده از هوش مصنوعی در امنیت سایبری، می‌تواند به یک چالش امنیتی جدی تبدیل شود.

مؤسسه ملی استاندارد و فناوری آمریکا، NIST، در چارچوب مدیریت ریسک هوش مصنوعی خود تأکید می‌کند که سیستم‌های AI در محیط عملیاتی با تغییرات جدید و ریسک‌هایی مواجه می‌شوند که ممکن است در زمان طراحی یا آزمایش وجود نداشته باشند. NIST از این تغییر شرایط با عنوان «Drift» یاد می‌کند؛ وضعیتی که می‌تواند باعث شود سیستم دیگر با فرض‌ها و محدودیت‌های اولیه طراحی خود سازگار نباشد. به همین دلیل، پایش مستمر عملکرد مدل پس از استقرار، بخشی مهم از مدیریت ریسک هوش مصنوعی محسوب می‌شود.

Data Drift چیست؟

به زبان ساده، Data Drift زمانی رخ می‌دهد که ویژگی‌ها و الگوی داده‌هایی که یک مدل در محیط واقعی دریافت می‌کند، به‌مرور با داده‌هایی که مدل بر اساس آن‌ها آموزش دیده، متفاوت شود.

فرض کنید یک مدل یادگیری ماشین برای تشخیص ایمیل‌های مخرب آموزش دیده است. این مدل بر اساس هزاران نمونه فیشینگ، هرزنامه و ایمیل سالم، الگوهایی را برای تشخیص تهدید یاد گرفته است. اما مهاجمان روش‌های خود را تغییر می‌دهند؛ متن ایمیل‌ها طبیعی‌تر می‌شود، حملات شخصی‌سازی‌شده‌تر می‌شوند و حتی ابزارهای هوش مصنوعی به تولید محتوایی کمک می‌کنند که از نظر نگارشی و زبانی شباهت بیشتری به ارتباطات واقعی دارد.

در چنین شرایطی، ممکن است مدل همچنان فعال باشد، اما بخشی از الگوهایی که زمانی برای شناسایی تهدید مفید بودند، دیگر کارایی گذشته را نداشته باشند.

در یکی از اسناد فنی منتشرشده از سوی آژانس امنیت سایبری و امنیت زیرساخت آمریکا، CISA، «Model Drift» به کاهش قدرت پیش‌بینی مدل‌های یادگیری ماشین در نتیجه تغییرات محیط واقعی اشاره شده است. این سند همچنین میان Concept Drift و Data یا Covariate Drift تمایز قائل می‌شود و هشدار می‌دهد که چنین تغییراتی می‌توانند به استنباط‌ها و پیش‌بینی‌های نادرست منجر شوند.

چرا Data Drift در امنیت سایبری اهمیت بیشتری پیدا می‌کند؟

مسئله اینجاست که امنیت سایبری یک محیط ثابت نیست. در بسیاری از کاربردهای یادگیری ماشین، مدل با تغییرات طبیعی رفتار مشتریان، بازار یا کاربران مواجه می‌شود؛ اما در امنیت سایبری، تغییر محیط تنها نتیجه تحولات عادی نیست. یک بازیگر فعال و هوشمند نیز در طرف مقابل قرار دارد که به‌صورت دائم تلاش می‌کند روش‌های دفاعی را دور بزند.

مهاجمان تکنیک‌های خود را تغییر می‌دهند، بدافزارها را بازطراحی می‌کنند، الگوهای فیشینگ را تغییر می‌دهند و از ابزارهای جدید برای پنهان کردن رفتار مخرب استفاده می‌کنند. در نتیجه، مدلی که بر اساس داده‌های حملات گذشته آموزش دیده، ممکن است در مواجهه با رفتارهایی که قبلاً ندیده، با کاهش دقت روبه‌رو شود.

این مسئله به‌ویژه در سامانه‌هایی مانند تشخیص نفوذ، تحلیل رفتار کاربران، شناسایی بدافزار، کشف تقلب و تشخیص فیشینگ اهمیت پیدا می‌کند؛ حوزه‌هایی که تصمیم‌گیری مدل به‌صورت مستقیم می‌تواند بر توان سازمان برای شناسایی یک تهدید اثر بگذارد.

MITRE ATLAS که تاکتیک‌ها و تکنیک‌های مرتبط با تهدیدات علیه سیستم‌های هوش مصنوعی را مستندسازی می‌کند، مجموعه‌ای از روش‌های حمله و سوءاستفاده از سیستم‌های AI را شناسایی کرده است؛ از جمله تکنیک‌هایی برای دستکاری داده، مسموم‌سازی داده‌های آموزشی و فرار از مدل‌های هوش مصنوعی. این موضوع نشان می‌دهد که با ورود AI به معماری‌های دفاعی، خود مدل نیز به بخشی از سطح حمله تبدیل می‌شود.

خطر اصلی؛ شکست خاموش یک سامانه امنیتی

شاید مهم‌ترین خطر Data Drift همین باشد: مدل لزوماً از کار نمی‌افتد. اگر یک فایروال خاموش شود یا یک سامانه امنیتی دچار اختلال کامل شود، احتمالاً تیم فناوری اطلاعات یا SOC خیلی زود متوجه مشکل خواهد شد. اما یک مدل هوش مصنوعی می‌تواند همچنان داده دریافت کند، تحلیل انجام دهد و هشدار تولید کند، در حالی که کیفیت تصمیم‌گیری آن نسبت به گذشته کاهش یافته است.

به بیان دیگر، سازمان ممکن است با یک شکست خاموش روبه‌رو شود؛ سیستمی که از نظر فنی فعال است، اما توانایی آن برای دیدن بخشی از تهدیدها کاهش پیدا کرده است.

این وضعیت زمانی خطرناک‌تر می‌شود که سازمان بیش از حد به خروجی هوش مصنوعی اعتماد کند و تصور کند فعال بودن یک سامانه، الزاماً به معنای مؤثر بودن آن است.

NIST نیز در گزارش منتشرشده درباره چالش‌های پایش سیستم‌های هوش مصنوعی پس از استقرار، بر این نکته تأکید کرده که ارزیابی‌های پیش از استقرار معمولاً در محیط‌های کنترل‌شده انجام می‌شوند، در حالی که شرایط واقعی می‌تواند ورودی‌ها و پیامدهای پیش‌بینی‌نشده‌ای ایجاد کند. این نهاد، پایش پس از استقرار را برای اطمینان از عملکرد قابل اعتماد سیستم‌های AI ضروری می‌داند.

Data Drift با حمله یکی نیست

با این حال، نباید هر نوع تغییر در داده را یک حمله سایبری تلقی کرد. Data Drift می‌تواند کاملاً طبیعی باشد؛ برای مثال، تغییر ساختار یک سازمان، افزایش تعداد کاربران، استفاده از سرویس‌های ابری جدید یا تغییر الگوی کاری کارکنان می‌تواند داده‌های ورودی یک سامانه امنیتی را تغییر دهد. اما مرز میان تغییر طبیعی و دستکاری عمدی داده، یکی از نقاط مهم در امنیت هوش مصنوعی است.

در حملاتی مانند Data Poisoning، مهاجم تلاش می‌کند به‌صورت عمدی داده‌های مورد استفاده یک سیستم را دستکاری کند تا بر رفتار مدل اثر بگذارد. حملات Evasion نیز با هدف فریب سیستم و عبور از سازوکارهای تشخیص طراحی می‌شوند. NIST در طبقه‌بندی حملات Adversarial Machine Learning، این نوع تهدیدات را بخشی از چشم‌انداز امنیتی سیستم‌های هوش مصنوعی می‌داند و بر ضرورت مدیریت ریسک آن‌ها تأکید کرده است.

بنابراین، Data Drift لزوماً یک حمله نیست، اما محیطی که به‌صورت دائم تغییر می‌کند می‌تواند باعث شود مدل در برابر تهدیدهای جدید آسیب‌پذیرتر شود. در چنین شرایطی، مهاجم ممکن است دقیقاً از همان فاصله‌ای استفاده کند که میان «واقعیت جدید» و «چیزی که مدل یاد گرفته» ایجاد شده است.

وقتی رفتار مهاجم شبیه رفتار عادی می‌شود

یکی از کاربردهای مهم هوش مصنوعی در امنیت سایبری، تحلیل رفتار و شناسایی ناهنجاری است. مدل تلاش می‌کند از میان میلیون‌ها رویداد، رفتاری را پیدا کند که با الگوی عادی تفاوت دارد. اما اگر تعریف «رفتار عادی» تغییر کند، چه اتفاقی می‌افتد؟

افزایش دورکاری، مهاجرت سازمان به فضای ابری، استفاده از نرم‌افزارهای جدید یا تغییر در ساختار دسترسی کاربران می‌تواند الگوی عادی یک سازمان را تغییر دهد. در نتیجه، مدل ممکن است با حجم بیشتری از هشدارهای اشتباه روبه‌رو شود یا برعکس، رفتاری را که در گذشته غیرعادی تلقی می‌شد، به‌عنوان بخشی از وضعیت جدید محیط بپذیرد.

این همان نقطه‌ای است که Data Drift می‌تواند به یک مسئله مستقیم برای تیم‌های امنیتی تبدیل شود؛ زیرا مسئله فقط کاهش یک شاخص فنی مانند Accuracy نیست. کاهش دقت یک مدل امنیتی می‌تواند به معنای افزایش احتمال عبور یک حمله واقعی از کنار سامانه‌های دفاعی باشد.

پاسخ چیست؛ بازآموزی مداوم کافی است؟

راه‌حل مقابله با Data Drift تنها این نیست که هر چند ماه یک‌بار مدل را دوباره آموزش دهیم. پیش از هر چیز، سازمان باید بداند آیا واقعاً Drift رخ داده است یا نه و این تغییر چه اثری بر عملکرد سیستم گذاشته است.

پایش توزیع داده‌های ورودی، بررسی تغییر شاخص‌های عملکرد، مقایسه رفتار مدل با نتایج گذشته و ارزیابی مداوم نرخ خطا می‌تواند بخشی از این فرایند باشد. در سامانه‌های حساس نیز نباید تصمیم‌گیری کاملاً به مدل واگذار شود و سازوکارهای نظارت انسانی و اعتبارسنجی مستقل باید همچنان وجود داشته باشند.

راهنمای AI RMF NIST نیز توصیه می‌کند عملکرد و رفتار سیستم‌های هوش مصنوعی در محیط عملیاتی به‌طور مستمر پایش شود و تفاوت میان شاخص‌های عملکرد در زمان بهره‌برداری با نتایج پیش از استقرار مورد بررسی قرار گیرد.

امنیت سایبری فقط حفاظت از مدل نیست

گسترش هوش مصنوعی در امنیت سایبری، یک تغییر مهم در نگاه به مفهوم دفاع ایجاد کرده است. در گذشته، ابزارهای امنیتی معمولاً برای حفاظت از شبکه، داده، کاربر و نرم‌افزار طراحی می‌شدند؛ اما اکنون خود مدل هوش مصنوعی، داده‌های آموزشی، داده‌های ورودی و زنجیره تصمیم‌گیری آن نیز به دارایی‌هایی تبدیل شده‌اند که باید از منظر امنیتی محافظت شوند.

در چنین شرایطی، پرسش اصلی دیگر فقط این نیست که «آیا هوش مصنوعی می‌تواند حمله را تشخیص دهد؟» بلکه باید پرسید: آیا سازمان مطمئن است مدلی که امروز حمله را تشخیص می‌دهد، همچنان فردا هم همان توانایی را خواهد داشت؟

شاید Data Drift در ظاهر یک مسئله تخصصی در علم داده باشد، اما در دنیایی که هوش مصنوعی به‌تدریج وارد مرکز عملیات امنیتی می‌شود، می‌تواند به یکی از همان نقاط کوری تبدیل شود که مهاجمان برای پیدا کردنشان زمان زیادی صرف می‌کنند.

سامانه امنیتی ممکن است همچنان روشن باشد، داده تحلیل کند و هشدار بدهد؛ اما اگر کسی عملکرد آن را در برابر واقعیت دائماً در حال تغییر پایش نکند، خطر اصلی ممکن است دقیقاً همان چیزی باشد که سیستم دیگر قادر به دیدنش نیست.