عامل‌های هوش مصنوعی حملات سایبری را خودکار می‌کنند؛ هشدار گوگل درباره تهدیدهای جدید

گروه‌های تهدید سایبری در حال استفاده گسترده‌تر از عامل‌های هوش مصنوعی (AI Agents) برای خودکارسازی بخش‌هایی از حملات سایبری هستند. بر اساس گزارش جدید Google Threat Intelligence Group (GTIG)، مهاجمان اکنون از عامل‌های هوش مصنوعی برای انجام وظایفی مانند اسکن آسیب‌پذیری‌ها، سرقت اعتبارنامه‌ها، شناسایی زیرساخت‌ها و حتی عیب‌یابی لحظه‌ای استفاده می‌کنند.

گزارش AI Threat Tracker مربوط به سه‌ماهه سوم سال ۲۰۲۶ نشان می‌دهد مهاجمان به‌تدریج از استفاده ساده از چت‌بات‌های هوش مصنوعی فاصله گرفته و به سمت ساخت فرایندهای چندمرحله‌ای حرکت کرده‌اند؛ فرایندهایی که در آن هوش مصنوعی می‌تواند چندین وظیفه مرتبط را با دخالت بسیار محدود انسان انجام دهد.

یک کارزار سرقت اعتبارنامه در کمتر از ۶ ساعت

در سه‌ماهه دوم سال ۲۰۲۶، شرکت Mandiant در جریان بررسی یک حمله سایبری با انگیزه مالی قرار گرفت که طی آن مهاجمان زیرساخت ابری یک سازمان را به خطر انداخته و یک چارچوب چندعاملی و خودکار مبتنی بر هوش مصنوعی را مستقر کرده بودند.

مهاجمان با استفاده از یک چت‌بات کدنویسی مبتنی بر هوش مصنوعی، یک پرامپت و مجموعه‌ای از دستورالعمل‌های مخصوص عامل هوش مصنوعی توانستند در کمتر از شش ساعت یک کارزار گسترده برای سرقت اعتبارنامه‌ها را طراحی، توسعه و اجرا کنند.

در نتیجه این حمله، هزاران اعتبارنامه متعلق به سرویس‌ها و شرکت‌های شخص ثالث به سرقت رفت.

بر اساس گزارش GTIG، دستورالعمل‌های ارائه‌شده به عامل هوش مصنوعی به آن اجازه می‌داد بدون دخالت مستقیم انسان، فرایند اسکن آسیب‌پذیری را مدیریت کند، مشکلات را در لحظه برطرف کند و منطق مربوط به چرخش آدرس‌های IP را اجرا کند.

یکی از نکات مهم این حمله، استفاده مهاجم از زیرساخت ابری قربانی بود. به این ترتیب، بخشی از ترافیک مخرب از طریق آدرس‌های IP معتبر و متعلق به زیرساخت قربانی عبور می‌کرد و شناسایی فعالیت مهاجم دشوارتر می‌شد.

دسترسی به مدل‌های هوش مصنوعی، خود به یک چالش امنیتی تبدیل شده است

GTIG علاوه بر نحوه استفاده مهاجمان از هوش مصنوعی، دسترسی آنها به خود سرویس‌های AI و منابع محاسباتی مورد نیاز برای اجرای این سیستم‌ها را نیز زیر نظر دارد.

این گروه هشدار می‌دهد که مهاجمان برای آزمایش و عملیاتی‌کردن ابزارهای هوش مصنوعی مولد باید به مدل‌های مناسب و توان پردازشی کافی دسترسی داشته باشند. هزینه مدل‌های پیشرفته و دسترسی به سخت‌افزارهای محاسباتی قدرتمند همچنان یکی از موانع اصلی برای استفاده گسترده مهاجمان از هوش مصنوعی محسوب می‌شود.

شناسایی بیش از ۲۳۸۰۰ راز سرقت‌شده روی یک سرور

GTIG همچنین یک سرور Command-and-Control (C2) در معرض اینترنت را شناسایی کرد که یک چارچوب خودکار برای شناسایی اهداف و مدیریت اعتبارنامه‌ها با نام Recon روی آن قرار داشت.

این سرور مجموعه‌ای از فایل‌های پیکربندی و اطلاعاتی از جمله AGENTS.md، KNOWLEDGE.md و agentic_vuln_research.md را در معرض دسترسی قرار داده بود. همچنین پوشه‌هایی مانند .openclaw/ و memory/ نیز روی آن مشاهده شد.

مدت کوتاهی پس از شناسایی این سرور، مشخص شد که دایرکتوری افشاشده در واقع به یک داشبورد عملیاتی برای سازمان‌دهی، اعتبارسنجی و مدیریت بیش از ۲۳۸۰۰ داده محرمانه سرقت‌شده تبدیل شده است.

در میان این اطلاعات، کلیدهای API مربوط به سرویس‌های ابری و پلتفرم‌های هوش مصنوعی نیز وجود داشت.

بر اساس یافته‌های GTIG، عامل‌های خودکار هوش مصنوعی اکنون قادرند آسیب‌پذیری‌ها را بررسی کنند، زیرساخت‌های سمت سرور را اسکن کنند و حتی در برخی سناریوها برای اجرای اکسپلویت‌های هدفمند اقدام کنند.

محققان این روند را نشانه‌ای از حرکت مهاجمان از اینفواستیلرهای سنتی و غیرفعال که عمدتاً روی نقاط پایانی تمرکز داشتند، به سمت سرقت اطلاعات تهاجمی و مبتنی بر عامل‌های هوش مصنوعی می‌دانند.

گروه‌های جاسوسی سایبری نیز در حال آزمایش چارچوب‌های خودکار هستند

فعالیت عامل‌های هوش مصنوعی تنها به گروه‌های جرایم سایبری محدود نمی‌شود. GTIG چند نمونه از آزمایش این فناوری توسط گروه‌های جاسوسی سایبری مرتبط با چین (PRC-nexus) را نیز شناسایی کرده است.

در یکی از موارد، یک گروه جاسوسی از Gemini برای طراحی یک چارچوب خودکار و پویا در حوزه تست نفوذ استفاده کرد. هدف از طراحی این چارچوب، بررسی وضعیت هدف، تصمیم‌گیری درباره اقدامات بعدی و اجرای وظایف در محیط‌های غیرقابل پیش‌بینی بود.

قابلیت‌های پیش‌بینی‌شده برای این سیستم شامل اسکن پورت‌ها و شناسایی و تجزیه سرویس‌های شبکه بود. با این حال، فعالیت شناسایی‌شده در این مورد به مرحله تلاش برای ساخت چارچوب محدود ماند و GTIG نیز زیرساخت‌های مرتبط با آن را غیرفعال کرد.

در نمونه‌ای دیگر، یک گروه جاسوسی سایبری مرتبط با چین ابزارهای توسعه هوش مصنوعی را برای ساخت یک زنجیره خودکار اکسپلویت و پس از اکسپلویت آزمایش کرد.

مهاجمان با استفاده از CC Switch از مدل‌هایی مانند Claude، Gemini و Codex درخواست می‌کردند اسکریپت‌های اختصاصی برای اکسپلویت بنویسند، محتوای فریبنده برای حملات Spear Phishing تولید کنند و خطاهای موجود در کدها را برطرف کنند.

در این عملیات همچنین از Burp Suite برای بررسی برنامه‌های وب و شناسایی آسیب‌پذیری‌ها استفاده شد. مهاجمان از چارچوب متن‌باز Phalanx نیز برای اجرای خودکار برخی فرایندهای اکسپلویت بهره گرفتند.

در مرحله پس از نفوذ نیز از Shai-Hulud برای برقراری ارتباط با زیرساخت کنترل و فرماندهی و سرقت اعتبارنامه‌ها استفاده شد.

هنوز خبری از حملات کاملاً خودمختار نیست

با وجود افزایش استفاده مهاجمان از عامل‌های هوش مصنوعی، GTIG اعلام کرده است که هنوز هیچ نمونه‌ای از اجرای یک زنجیره کاملاً خودمختار حمله علیه اهداف واقعی در دنیای خارج مشاهده نکرده است.

با این حال، روند فعلی نشان می‌دهد استفاده خصمانه از هوش مصنوعی در حال حرکت به سمت چنین سناریویی است.

محققان GTIG این روند را نوعی بلوغ تدریجی تکنیک‌های حمله سایبری توصیف می‌کنند. مهاجمان اکنون از مدل‌های تجاری و مدل‌های دارای وزن‌های باز استفاده می‌کنند تا اطلاعات منتشرشده درباره آسیب‌پذیری‌ها و تأخیر در انتشار وصله‌های امنیتی را به کدهای اکسپلویت قابل استفاده تبدیل کنند.

آنها همچنین در محیط‌های کنترل‌شده payloadهای خود را اصلاح می‌کنند و به‌تدریج به سمت ساخت زنجیره‌های اکسپلویت چندمرحله‌ای و عملیاتی حرکت می‌کنند.

آینده حملات سایبری؛ حرکت از پرامپت به خودمختاری

یافته‌های جدید نشان می‌دهد تهدید اصلی هوش مصنوعی در حوزه امنیت سایبری صرفاً تولید کد مخرب یا نوشتن یک اسکریپت توسط چت‌بات‌ها نیست. تحول مهم‌تر، اتصال چند قابلیت هوش مصنوعی در قالب یک عامل یا مجموعه‌ای از عامل‌ها برای اجرای یک زنجیره کامل از وظایف است.

در چنین شرایطی، هوش مصنوعی می‌تواند بخشی از فرایند شناسایی هدف، کشف آسیب‌پذیری، تولید ابزار حمله، رفع خطا و اجرای مراحل بعدی را بر عهده بگیرد.

GTIG اعلام کرده است که برای مقابله با این تهدیدها، مدل‌های هوش مصنوعی خود را به‌طور مستمر در برابر سوءاستفاده مقاوم‌تر می‌کند و یافته‌های حاصل از پایش تهدیدات واقعی را مستقیماً در سیستم‌های ایمنی، طبقه‌بندی‌کننده‌ها و سازوکارهای حفاظتی مدل‌ها وارد می‌کند.

اگرچه حملات کاملاً خودمختار هنوز به یک روند رایج تبدیل نشده‌اند، شواهد موجود نشان می‌دهد فاصله میان استفاده از هوش مصنوعی به‌عنوان یک ابزار کمکی و استفاده از آن به‌عنوان یک عامل مستقل در حملات سایبری در حال کاهش است.