رشد سریع استفاده از هوش مصنوعی و مدل‌های زبانی بزرگ (LLM) در محصولات نرم‌افزاری، چالش‌های امنیتی تازه‌ای را پیش روی سازمان‌ها قرار داده است. گزارش جدید شرکت Cobalt نشان می‌دهد آسیب‌پذیری‌های مرتبط با هوش مصنوعی، ۲.۷ برابر بیشتر از سایر سامانه‌ها در دسته «ریسک بالا» قرار می‌گیرند. با این حال، روند رفع این آسیب‌پذیری‌ها نیز کندتر از سایر حوزه‌ها است؛ به‌طوری‌که هنوز نزدیک به دو سوم آسیب‌پذیری‌های بحرانی شناسایی‌شده در این سامانه‌ها بدون اصلاح باقی مانده‌اند.

آسیب‌پذیری‌های هوش مصنوعی؛ ترکیبی از تهدیدهای قدیمی و جدید

شرکت‌ها طی دو سال گذشته با سرعت زیادی قابلیت‌های مبتنی بر هوش مصنوعی و مدل‌های زبانی بزرگ را به محصولات خود اضافه کرده‌اند، اما همزمان پیامدهای امنیتی این تحول نیز به‌تدریج آشکار شده است.

گزارش «AI and Pentesting Pulse Report 2026» شرکت Cobalt که بر پایه پنج سال داده حاصل از آزمون‌های نفوذ (Pentest) و نظرسنجی از ۴۵۵ مدیر و متخصص امنیت سایبری تدوین شده، نشان می‌دهد سامانه‌های مبتنی بر هوش مصنوعی علاوه بر تمامی ضعف‌های امنیتی نرم‌افزارهای سنتی، مجموعه‌ای از آسیب‌پذیری‌های اختصاصی خود را نیز به همراه دارند.

به این ترتیب، یک نرم‌افزار وب مجهز به مدل زبانی بزرگ همچنان در معرض حملاتی مانند تزریق SQL، اسکریپت‌نویسی میان‌وبگاهی (XSS) و ضعف در احراز هویت قرار دارد، اما در کنار آن باید با تهدیدهایی نظیر  Prompt Injection، مدیریت ناامن خروجی مدل و حملات منع سرویس در سطح مدل (Model-level Denial of Service) نیز مقابله کند.

نرخ آسیب‌پذیری‌های پرریسک ۲.۷ برابر سایر سامانه‌ها

بررسی داده‌های Cobalt نشان می‌دهد احتمال شناسایی آسیب‌پذیری‌های «ریسک بالا» در آزمون‌های نفوذ سامانه‌های هوش مصنوعی و مدل‌های زبانی بزرگ (LLM)، حدود ۲.۷ برابر بیشتر از سایر سامانه‌های نرم‌افزاری است؛ فاصله‌ای که طی دو سال گذشته بدون تغییر باقی مانده است.

طبق این گزارش، تقریباً از هر سه آسیب‌پذیری شناسایی‌شده در سامانه‌های هوش مصنوعی، یک مورد در سطح ریسک بالا قرار دارد، در حالی که این نسبت در سایر نرم‌افزارها حدود یک مورد از هر هشت آسیب‌پذیری است.

دو سوم آسیب‌پذیری‌های بحرانی همچنان باز هستند

هرچند شناسایی آسیب‌پذیری‌ها در سامانه‌های مبتنی بر هوش مصنوعی دشوار نیست، اما رفع آن‌ها همچنان یکی از مهم‌ترین چالش‌های سازمان‌ها به شمار می‌رود.

بر اساس این گزارش، نرخ رفع آسیب‌پذیری‌های شناسایی‌شده در آزمون‌های نفوذ سامانه‌های هوش مصنوعی در سال ۲۰۲۶ به ۳۸.۴ درصد رسیده است؛ پایین‌ترین نرخ در میان تمامی حوزه‌های تحت بررسی Cobalt. به بیان دیگر، از هر سه آسیب‌پذیری بحرانی، دو مورد همچنان بدون اصلاح باقی مانده‌اند و امکان سوءاستفاده از آن‌ها وجود دارد.

اگرچه این نرخ نسبت به سال گذشته تقریباً دو برابر شده و بیشترین رشد را در میان همه دسته‌های دارایی‌های فناوری اطلاعات تجربه کرده است، اما همچنان فاصله قابل‌توجهی با حوزه‌هایی مانند آزمون امنیت APIها و نرم‌افزارهای تحت وب دارد؛ حوزه‌هایی که بخش عمده‌ای از آسیب‌پذیری‌های مهم در آن‌ها برطرف می‌شود.

کمبود نیروی متخصص و وابستگی به ارائه‌دهندگان مدل

گزارش Cobalt سه عامل را مهم‌ترین دلایل کند بودن روند اصلاح آسیب‌پذیری‌های هوش مصنوعی معرفی می‌کند:

• کمبود متخصصانی که به‌طور همزمان بر امنیت سایبری و معماری سامانه‌های هوش مصنوعی تسلط داشته باشند.
• وابستگی بسیاری از اصلاحات امنیتی به شرکت توسعه‌دهنده مدل؛ زیرا در مواردی که منشأ آسیب‌پذیری، خود مدل زبانی باشد، سازمان‌ها امکان رفع مستقیم آن را ندارند.
• تازه بودن بسیاری از پروژه‌های هوش مصنوعی است؛ موضوعی که باعث شده فرآیندهای امنیتی این سامانه‌ها هنوز به بلوغ کافی نرسند.

این گزارش همچنین نشان می‌دهد میانگین زمان مورد نیاز برای اصلاح آسیب‌پذیری‌های مرتبط با هوش مصنوعی تقریباً دو برابر شده است؛ موضوعی که بیانگر پیچیده‌تر شدن فرآیند شناسایی، بررسی و رفع این مشکلات است.

«هوش مصنوعی سایه»؛ مهم‌ترین منشأ حوادث امنیتی

یکی از مهم‌ترین یافته‌های گزارش، نقش پررنگ پدیده «هوش مصنوعی سایه» (Shadow AI) در حوادث امنیتی سازمان‌هاست.

منظور از هوش مصنوعی سایه، استفاده کارکنان از ابزارهای هوش مصنوعی تأییدنشده و خارج از چارچوب‌های رسمی سازمان است؛ اقدامی که معمولاً با ورود داده‌های محرمانه شرکت به این سرویس‌ها همراه می‌شود.

بر اساس یافته‌های Cobalt، ۴۴ درصد از حوادث امنیتی تأییدشده مرتبط با هوش مصنوعی، ناشی از همین پدیده بوده است؛ سهمی که از عواملی مانند آلوده‌سازی داده‌ها (Data Poisoning)، ضعف در مدیریت خروجی مدل، مشکلات زنجیره تأمین و حملات Prompt Injection نیز بیشتر است.

این گزارش همچنین نشان می‌دهد حدود یک‌پنجم سازمان‌ها وقوع دست‌کم یک حادثه امنیتی مرتبط با هوش مصنوعی را تأیید کرده‌اند، در حالی که بخش قابل‌توجهی از سازمان‌ها هنوز نمی‌توانند با اطمینان درباره وقوع یا عدم وقوع چنین حوادثی اظهار نظر کنند.

ابزارهای سنتی قادر به شناسایی Shadow AI نیستند

جو برینکلی، مدیر تحقیقات امنیت تهاجمی و جامعه کاربران Cobalt، معتقد است ابزارهای سنتی مدیریت دارایی‌های فناوری اطلاعات اساساً برای شناسایی هوش مصنوعی سایه طراحی نشده‌اند.

به گفته او، این ابزارها تنها زیرساخت‌های سازمانی، مانند سرورها یا آدرس‌های IP، را رصد می‌کنند، در حالی که هوش مصنوعی سایه تقریباً به‌طور کامل در لایه کاربرد فعالیت می‌کند و به همین دلیل از دید این سامانه‌ها پنهان می‌ماند.

برینکلی توضیح می‌دهد این وضعیت معمولاً زمانی ایجاد می‌شود که یک توسعه‌دهنده اطلاعات محرمانه سازمان را در یک افزونه مرورگر وارد کند یا اسکریپتی از طریق یک ارتباط رمزنگاری‌شده HTTPS با API یک مدل زبانی متعلق به شرکت ثالث ارتباط برقرار کند؛ رفتاری که از نگاه ابزارهای سنتی، صرفاً ترافیک عادی وب محسوب می‌شود.

به اعتقاد او، سازمان‌ها برای مقابله با این تهدید باید تمرکز خود را از زیرساخت به سمت رفتار داده‌ها، ترافیک شبکه و نقاط پایانی (Endpoints) تغییر دهند. تحلیل ترافیک لایه هفتم شبکه، شناسایی هدرهای غیرمجاز API، پایش افزونه‌های مرورگر و بررسی گزارش‌های DNS، از جمله اقداماتی هستند که می‌توانند در شناسایی هوش مصنوعی سایه مؤثر باشند.

اعتماد به آزمون‌های کاملاً خودکار کاهش یافته است

یکی دیگر از یافته‌های گزارش نشان می‌دهد استقبال سازمان‌ها از سپردن کامل آزمون‌های امنیتی به ابزارهای مبتنی بر هوش مصنوعی به‌شدت کاهش یافته است.

در حالی که یک سال قبل، نزدیک به یک‌سوم تیم‌های امنیتی حاضر بودند تمام آزمون‌ها را به ابزارهای خودکار واگذار کنند، اکنون این رقم به تنها ۹ درصد رسیده است.

دلیل اصلی این تغییر، عملکرد نه‌چندان مطلوب ابزارهای خودکار عنوان شده است؛ به‌طوری که ۷۸ درصد از پاسخ‌دهندگان اعلام کرده‌اند اسکنرهای خودکار در شناسایی آسیب‌پذیری‌های بحرانی ناکام بوده‌اند.

در نتیجه، رویکرد مورد استقبال سازمان‌ها اکنون ترکیبی از اتوماسیون و تخصص انسانی است؛ به این معنا که آزمون‌های روتین روی سامانه‌های کم‌ریسک توسط ابزارهای خودکار انجام می‌شود، اما بررسی سامانه‌های حیاتی و حساس همچنان بر عهده کارشناسان امنیت قرار دارد. نزدیک به نیمی از سازمان‌ها این رویکرد را ترجیح می‌دهند.

فاصله دیدگاه مدیران و کارشناسان امنیت

گزارش Cobalt از شکاف قابل‌توجه میان برداشت مدیران و کارشناسان فنی درباره وضعیت امنیت سازمان‌ها نیز پرده برمی‌دارد.

بیش از نیمی از مدیران امنیت معتقدند سازمانشان در مهلت تعیین‌شده موفق به رفع آسیب‌پذیری‌ها می‌شود، اما تنها حدود یک نفر از هر هفت کارشناس عملیاتی چنین نظری دارد؛ اختلافی که به ۴۲ واحد درصد می‌رسد.

اکثر پاسخ‌دهندگان نیز معتقدند در صورت وقوع یک حادثه بزرگ مرتبط با هوش مصنوعی، بیشترین مسئولیت در داخل سازمان بر عهده تیم امنیت خواهد بود.

برینکلی معتقد است این اختلاف ناشی از تفاوت شاخص‌هایی است که مدیران و کارشناسان برای ارزیابی عملکرد از آن‌ها استفاده می‌کنند. به گفته او، مدیران معمولاً شاخص‌های انطباق و داشبوردهای مدیریتی را مشاهده می‌کنند، در حالی که مهندسان با انبوهی از هشدارها مواجه هستند که بسیاری از آن‌ها در عمل قابلیت سوءاستفاده ندارند.

او تأکید می‌کند سازمان‌هایی که تمرکز خود را بر آسیب‌پذیری‌های واقعاً قابل بهره‌برداری گذاشته‌اند، توانسته‌اند این شکاف را کاهش دهند. بر اساس داده‌های Cobalt، این سازمان‌ها ۴.۵ برابر بیشتر از سایرین موفق به رعایت تعهدات زمانی خود در رفع آسیب‌پذیری‌ها شده‌اند.

نیاز سازمان‌ها به امنیت بیشتر؛ اما سرمایه‌گذاری ناکافی

در این گزارش آمده است که اگرچه حدود ۶۰ درصد تیم‌های امنیتی اعلام کرده‌اند به روش‌های پیشرفته‌تر آزمون امنیت سامانه‌های هوش مصنوعی نیاز دارند، اما کمتر از نیمی از آن‌ها قصد دارند سرمایه‌گذاری خود را در حوزه تیم‌های Red Team افزایش دهند.

اعتماد سازمان‌ها به وضعیت امنیتی خود نیز کاهش یافته است؛ به‌طوری که میزان اطمینان از حدود دوسوم تیم‌ها در سال گذشته به حدود نیمی از آن‌ها رسیده و اکنون بیشتر سازمان‌ها خواهان بازنگری برنامه‌ریزی‌شده در راهبردهای دفاعی خود هستند.

بررسی عملکرد سازمان‌ها نیز نشان می‌دهد تفاوت میان موفق‌ترین و ضعیف‌ترین برنامه‌های امنیتی بسیار چشمگیر است. سازمان‌های پیشرو، به‌طور متوسط، آسیب‌پذیری‌های پرریسک را ظرف حدود ۱۰ روز برطرف می‌کنند، در حالی که سازمان‌های ضعیف همین آسیب‌پذیری‌ها را به‌طور متوسط ۲۴۹ روز بدون اصلاح رها می‌کنند.

Cobalt در پایان توصیه می‌کند آزمون نفوذ مدل‌های زبانی بزرگ به‌عنوان یک حوزه تخصصی مستقل در نظر گرفته شود، فرآیند مشخصی برای شناسایی هوش مصنوعی سایه و ارزیابی ابزارهای جدید تدوین شود و آزمون‌های امنیتی مبتنی بر کارشناسان انسانی برای تمامی سامانه‌های حیاتی و همه برنامه‌های مبتنی بر هوش مصنوعی در اولویت قرار گیرند.