هشدار تازه SANS؛ دو سوم متخصصان امنیت فریب AI را خوردهاند
در حوزه امنیت سایبری، عامل انسانی همواره ضعیفترین عنصر در امنیت زنجیره تامین به شمار میرود؛ با این حال جدیدترین یافتههای صنعت امنیت سایبری حاکی از آن است که بهترین دفاع در مقابل حملههای هوش مصنوعی، یک انسان شکاک و بدبین است.
طبق گزارش هلپ نت سکیورتی، در حالی که استفاده از هوش مصنوعی مولد به بخش جداییناپذیر عملیات امنیت سایبری تبدیل شده است، نتایج تازهترین نظرسنجی مؤسسه SANS نشان میدهد اتکای کامل به این فناوری همچنان با ریسکهای جدی همراه است. متخصصان امنیت معتقدند اگرچه هوش مصنوعی میتواند سرعت تحلیل و پاسخگویی به تهدیدات را افزایش دهد، اما همچنان «تحلیلگر انسانی» مهمترین عامل برای تشخیص خطاها، راستیآزمایی نتایج و مقابله با حملات سایبری مبتنی بر AI است.
استفاده گسترده از هوش مصنوعی؛ اما اعتماد همچنان پایین است
بر اساس گزارش SANS AI Survey 2026 که با مشارکت ۵۳۶ متخصص فناوری اطلاعات و امنیت سایبری انجام شده، استفاده از هوش مصنوعی در راهبردهای امنیتی سازمانها طی یک سال گذشته رشد چشمگیری داشته است؛ بهطوریکه ۷۸ درصد پاسخدهندگان اعلام کردهاند از ابزارهای هوش مصنوعی در فعالیتهای روزانه خود، از تحلیل لاگها گرفته تا تهیه گزارشهای رخدادهای امنیتی، استفاده میکنند.
با این حال، افزایش استفاده از این فناوری به معنای افزایش اعتماد به آن نیست. نتایج این بررسی نشان میدهد ۶۳ درصد متخصصان، هوش مصنوعی را در شناسایی یا پاسخ به تهدیدات دارای «نقاط ضعف قابلتوجه» میدانند؛ رقمی که نسبت به سال گذشته افزایش یافته است.
کارشناسان مهمترین مشکلات این ابزارها را تولید هشدارهای اشتباه (False Positive)، ناتوانی در شناسایی تهدیدهای جدید و ارائه پاسخهایی میدانند که با وجود اطمینان ظاهری، در عمل نادرست از آب درمیآیند.
هوش مصنوعی؛ دستیار امنیتی، نه تصمیمگیر نهایی
مت برامیلی، مدرس و کارشناس پاسخگویی به رخدادهای امنیتی در SANS، معتقد است میزان اعتماد متخصصان به هوش مصنوعی بسته به نوع وظیفه متفاوت است.
به گفته او، تحلیلگران امنیتی از AI برای دستهبندی تهدیدها یا اولویتبندی آسیبپذیریها استقبال میکنند، اما زمانی که قرار است درباره واقعی بودن یک حمله یا تحلیل رفتارهای غیرعادی تصمیمگیری شود، همچنان ترجیح میدهند انسان نقش نهایی را ایفا کند.
برامیلی تأکید میکند که بهترین رویکرد، برخورد با هوش مصنوعی مانند یک «کارآموز دیجیتال» است؛ یعنی خروجیهای آن باید همواره توسط یک متخصص بررسی و اعتبارسنجی شوند.
دو سوم متخصصان دستکم یک بار فریب AI را خوردهاند
یکی از نگرانکنندهترین یافتههای این نظرسنجی آن است که حدود دو سوم پاسخدهندگان اعلام کردهاند طی یک سال گذشته، دستکم یک بار به دلیل توصیه یا تحلیل اشتباه هوش مصنوعی، مسیر نادرستی را در بررسی رخدادهای امنیتی دنبال کردهاند.
حتی ۹ درصد از شرکتکنندگان گفتهاند این اتفاق بیش از ۲۰ بار برای آنها رخ داده است؛ موضوعی که اهمیت نظارت انسانی بر تصمیمهای مبتنی بر هوش مصنوعی را بیش از پیش آشکار میکند.
حملات مبتنی بر AI سرعت مهاجمان را افزایش دادهاند
برامیلی در بخشی از این گزارش به نمونهای واقعی از یک حمله سایبری اشاره میکند که در آن مهاجمان از بسته نرمافزاری آلوده برای نفوذ به زنجیره تأمین استفاده کردند.
به گفته او، مهاجمان پس از ورود اولیه، تنها در چند دقیقه عملیات شناسایی شبکه، حرکت جانبی و اجرای اسکریپتهای مختلف را آغاز کردند. سرعت بالای این حمله باعث شد زمانی که معمولاً تیمهای امنیتی برای شناسایی و مهار مهاجم در اختیار دارند، بهشدت کاهش پیدا کند.
اگرچه هیچ مدرک قطعی درباره استفاده مهاجمان از هوش مصنوعی به دست نیامده بود، اما ساختار اسکریپتها و سرعت تولید آنها نشان میداد احتمالاً از ابزارهای هوش مصنوعی برای توسعه این کدها استفاده شده است.
دفاع مؤثر؛ رفتار مهاجم را زیر نظر بگیرید، نه ابزار او را
نتایج نظرسنجی نشان میدهد متخصصان امنیت سایبری، مؤثرترین راهکارها برای مقابله با حملات مبتنی بر هوش مصنوعی را استفاده از سامانههای تشخیص رفتاری (Behavioral Detection)، آموزش مستمر کاربران، بازبینی انسانی هشدارها و اجرای معماری Zero Trust میدانند.
در مقابل، ابزارهای امنیتی که صرفاً با هدف مقابله با تهدیدات هوش مصنوعی طراحی شدهاند، کمترین میزان اعتماد را در میان پاسخدهندگان کسب کردهاند.
به اعتقاد برامیلی، سامانههای تشخیص رفتاری بر عملکرد مهاجم تمرکز میکنند، نه بر نحوه تولید کد یا ابزار مورد استفاده او؛ به همین دلیل در برابر حملات مبتنی بر هوش مصنوعی نیز کارایی بیشتری دارند.
شکاف آمادگی سازمانها همچنان پابرجاست
گزارش SANS هشدار میدهد بسیاری از سازمانها، با وجود سرمایهگذاری گسترده روی هوش مصنوعی، هنوز سازوکار مناسبی برای ارزیابی دقت خروجیها، مدیریت ریسک و آموزش نیروی انسانی ایجاد نکردهاند.
کارشناسان این مؤسسه تأکید میکنند در سال پیشِ رو، سازمانهایی موفقتر خواهند بود که علاوه بر بهرهگیری از قابلیتهای هوش مصنوعی، اعتبارسنجی نتایج، حاکمیت داده و آموزش مستمر تحلیلگران امنیتی را به بخشی جداییناپذیر از برنامههای دفاع سایبری خود تبدیل کنند.
یافتههای این گزارش یک پیام روشن دارد؛ هوش مصنوعی میتواند سرعت دفاع سایبری را افزایش دهد، اما قضاوت، تردید حرفهای و تصمیمگیری نهایی همچنان بر عهده انسان خواهد بود. در واقع، توصیه میشود برای افزایش امنیت سایبری سازمان و کسبوکارتان، همیشه یک انسان شکاک و بدبین را در قلب تیم امنیت خود قرار دهید.
