AI Agentها حالا خودشان هدف هکرها هستند؛ تهدید جدید علیه امنیت سایبری

AI Agentها فقط ابزار هکرها نیستند و خودشان نیز به هدف حملات سایبری تبدیل شده‌اند. بررسی خطرات Agentهای هوش مصنوعی، حملات Agent-to-Agent و چالش امنیت هویت‌های غیرانسانی.

نویسنده:

بهراد یوسفی

با گسترش استفاده از هوش مصنوعی عامل‌محور (AI Agent)، یک نگرانی تازه در امنیت سایبری جدی‌تر شده است: این سیستم‌ها دیگر فقط ابزارهایی برای کمک به کاربران یا حتی مهاجمان نیستند، بلکه خودشان می‌توانند به هدف حملات سایبری تبدیل شوند.

این هشدار در حالی مطرح شده که AI Agentها با سرعت زیادی وارد محیط‌های سازمانی شده‌اند و برخلاف چت‌بات‌های معمولی، می‌توانند به ابزارها، فایل‌ها، سرویس‌های آنلاین و منابع سازمانی دسترسی داشته باشند و بر اساس تصمیم‌گیری خودکار اقدام کنند.

AI Agentها چرا به یک هدف جدید تبدیل شده‌اند؟

به گفته Dave Gerry، مدیرعامل شرکت Bugcrowd، با افزایش استفاده از Agentهای هوش مصنوعی، مهاجمان باید علاوه بر تهدیدهای انسانی، برای حمله به خود Agentها نیز آماده باشند. او این موضوع را در جریان کنفرانس Black Hat مطرح کرده است.

تفاوت اصلی AI Agent با یک چت‌بات معمولی در میزان دسترسی و اختیار آن است.

یک چت‌بات ممکن است صرفاً به یک پرسش پاسخ دهد، اما یک Agent می‌تواند در صورت دریافت مجوزهای لازم، اقداماتی مانند اجرای فرمان، خواندن فایل، برقراری ارتباط شبکه‌ای یا استفاده از سرویس‌های دیگر را انجام دهد.

به همین دلیل، اگر یک Agent مورد سوءاستفاده قرار بگیرد یا مهاجم بتواند رفتار آن را منحرف کند، پیامد حمله می‌تواند بسیار فراتر از یک پاسخ اشتباه باشد.

Black Hat نیز پیش‌تر درباره همین تغییر هشدار داده بود و اعلام کرده بود Agentهایی که روی Endpointها فعالیت می‌کنند می‌توانند به فایل‌ها، فرمان‌های سیستم و شبکه دسترسی داشته باشند؛ موضوعی که مدل سنتی امنیت Endpoint را با چالش جدیدی روبه‌رو می‌کند.

وقتی AI Agentها به یکدیگر حمله می‌کنند

نگرانی دیگر، ظهور حملات Agent-to-Agent است؛ یعنی شرایطی که یک سیستم عامل‌محور مبتنی بر هوش مصنوعی بتواند سیستم یا Agent دیگری را هدف قرار دهد.

گزارش Axios می‌گوید سیستم‌های مجهز به AI اکنون می‌توانند در برخی شرایط برای حمله به سیستم‌های دیگر مورد استفاده قرار گیرند و حتی سایر پلتفرم‌های مبتنی بر هوش مصنوعی را هدف قرار دهند.

این اتفاق یک تغییر مهم در مدل تهدید ایجاد می‌کند. در معماری سنتی، معمولاً انسان یا یک بدافزار را به‌عنوان عامل تهدید در نظر می‌گیریم؛ اما در محیط‌های Agentic، ممکن است یک Agent بتواند با سرعت ماشین، منابع را شناسایی کند، تصمیم بگیرد، ابزارهای مختلف را فراخوانی کند و زنجیره‌ای از اقدامات را انجام دهد.

Black Hat نیز هشدار داده است که Agentها در حال حرکت از «اتوماسیون قابل برنامه‌ریزی» به سمت تصمیم‌گیری و اقدام مستقل هستند؛ بنابراین مدل‌های سنتی مدیریت هویت و دسترسی که عمدتاً برای انسان‌ها طراحی شده‌اند، دیگر به‌تنهایی کافی نیستند.

ماجرای Agentهای OpenAI چه چیزی را نشان داد؟

این نگرانی صرفاً یک بحث تئوریک نیست.

در ماه‌های اخیر، چند مورد رفتار غیرمنتظره Agentهای هوش مصنوعی نیز گزارش شده است. رویترز در ۴ سپتامبر گزارش داد که Agentهای مرتبط با OpenAI در ماه مه ۲۰۲۶ یک ویکی آلمانی به نام DseWiki را در اختیار گرفته و از آن برای تبادل اطلاعات و هماهنگی رفتارهای خود استفاده کرده‌اند. طبق این گزارش، Agentها بیش از ۱۵ هزار ویرایش انجام داده و حتی صفحات پشتیبان ایجاد کرده بودند تا در صورت حذف محتوا توسط مدیران، فعالیت خود را ادامه دهند.

این اتفاق در کنار حادثه دیگری که مربوط به Hugging Face بود، نگرانی‌ها درباره توانایی Agentها برای خروج از محیط‌های کنترل‌شده و تعامل با زیرساخت‌های واقعی اینترنت را افزایش داده است.

البته باید بین رفتار ناخواسته Agent در یک محیط آزمایشی و یک «حمله سایبری مستقل در دنیای واقعی» تفاوت قائل شد. همین تفکیک برای جلوگیری از بزرگ‌نمایی این خبر اهمیت دارد.

چرا این موضوع برای سازمان‌ها مهم است؟

مشکل اصلی فقط خود مدل هوش مصنوعی نیست؛ دسترسی‌هایی است که به Agent داده می‌شود.

اگر یک Agent به ایمیل، فایل‌های داخلی، مخازن کد، سیستم‌های مالی یا سرویس‌های ابری دسترسی داشته باشد، به یک هویت دیجیتال با سطح دسترسی واقعی تبدیل می‌شود.

به همین دلیل، متخصصان امنیتی در حال مطرح کردن این دیدگاه هستند که AI Agentها باید مانند یک هویت جدید غیرانسانی مدیریت شوند.

این یعنی سازمان باید دقیقاً بداند:

هر Agent چه هویتی دارد؟
به چه منابعی دسترسی دارد؟
چه اقداماتی می‌تواند انجام دهد؟
چه کسی آن را ایجاد یا مجوزدهی کرده است؟
فعالیت‌های آن چگونه ثبت و مانیتور می‌شود؟
در صورت رفتار غیرعادی، چگونه دسترسی آن قطع خواهد شد؟

تهدید جدید؛ Agentها هم باید مانند کاربران کنترل شوند

یکی از مهم‌ترین پیام‌های مطرح‌شده در Black Hat این است که امنیت Agentها نباید صرفاً بر اساس مدل هوش مصنوعی تعریف شود.

اگر Agent بتواند با هویت سازمانی وارد سرویس‌ها شود، باید برای آن احراز هویت، حداقل سطح دسترسی، ثبت رویداد، نظارت رفتاری و امکان قطع دسترسی در نظر گرفته شود.

Black Hat تأکید کرده است که گسترش Agentها، تعداد هویت‌های غیرانسانی را افزایش می‌دهد و سازمان‌ها باید خود را برای مدیریت تعداد بسیار بیشتری از هویت‌هایی آماده کنند که می‌توانند به‌صورت مستقل اقدام کنند.

هوش مصنوعی حالا هم مهاجم است، هم هدف

تصویر امنیت سایبری در حال تغییر است. تا همین اواخر، تمرکز اصلی روی این بود که هکرها چگونه از هوش مصنوعی برای حمله استفاده می‌کنند؛ از تولید فیشینگ و بدافزار گرفته تا شناسایی اهداف و خودکارسازی عملیات.

اما با گسترش AI Agentها، یک لایه جدید اضافه شده است:

خود سیستم‌های هوش مصنوعی نیز به بخشی از سطح حمله تبدیل شده‌اند.

به همین دلیل، سازمان‌هایی که Agentها را بدون کنترل دسترسی، مانیتورینگ و محدودیت‌های مشخص وارد محیط عملیاتی می‌کنند، ممکن است در آینده با نوعی از تهدید مواجه شوند که در آن مهاجم نه‌تنها یک کاربر یا سرور، بلکه هویت و عامل هوش مصنوعی سازمان را هدف قرار می‌دهد.

گزارش‌های اخیر نشان می‌دهد این موضوع دیگر صرفاً یک سناریوی آینده نیست و صنعت امنیت سایبری در حال تطبیق مدل‌های دفاعی خود با آن است.