سیسکو Claude Mythos را برای شناسایی آسیب‌پذیری عامل‌های هوش مصنوعی به کار می‌گیرد
سیسکو مدل Claude Mythos را به AI Defense اضافه می‌کند تا سازمان‌ها بتوانند با شبیه‌سازی حملات چندمرحله‌ای، ضعف‌های امنیتی عامل‌های هوش مصنوعی را شناسایی کنند.
شرکت سیسکو اعلام کرده است مدل هوش مصنوعی Claude Mythos متعلق به Anthropic را به چارچوب امنیتی AI Defense اضافه می‌کند تا سازمان‌ها بتوانند مقاومت عامل‌ها و برنامه‌های هوش مصنوعی خود را در برابر حملات پیچیده‌تر آزمایش کنند. این قابلیت با شبیه‌سازی مسیرهای چندمرحله‌ای حمله، به تیم‌های امنیتی کمک می‌کند ضعف‌های احتمالی سامانه‌های هوش مصنوعی را پیش از سوءاستفاده مهاجمان شناسایی کنند.
آزمایش امنیتی عامل‌های هوش مصنوعی چگونه انجام می‌شود؟
عامل‌های هوش مصنوعی برخلاف چت‌بات‌های معمولی می‌توانند به ابزارها، پایگاه‌های داده و سرویس‌های سازمانی متصل شوند و بر اساس درخواست کاربر اقداماتی انجام دهند. همین دسترسی‌ها در صورت وجود ضعف امنیتی ممکن است زمینه افشای اطلاعات، اجرای اقدامات غیرمجاز یا سوءاستفاده از دسترسی‌های سازمانی را فراهم کند.
قابلیت جدید Cisco AI Defense از روش آزمایش تهاجمی امنیتی یا Red Teaming استفاده می‌کند. در این روش، سامانه امنیتی با شبیه‌سازی رفتار مهاجمان، تلاش می‌کند نقاط ضعف عامل هوش مصنوعی را شناسایی کند.
افزودن Claude Mythos به چارچوب آزمایش تطبیقی سیسکو، امکان طراحی مسیرهای حمله چندمرحله‌ای و متناسب با ساختار هر سامانه را فراهم می‌کند. این فرایند می‌تواند سناریوهایی مانند تزریق دستور مخرب (Prompt Injection)، دور زدن محدودیت‌های امنیتی و دسترسی غیرمجاز به اطلاعات حساس را بررسی کند.
چه قابلیت‌هایی به ابزار امنیتی سیسکو اضافه شده است؟
بر اساس اعلام سیسکو، مهم‌ترین ویژگی‌های این قابلیت عبارت‌اند از:
-
شناسایی مسیرهای پیچیده حمله: طراحی سناریوهای چندمرحله‌ای متناسب با ساختار و آسیب‌پذیری‌های احتمالی هر سامانه.
-
آزمایش هدفمند: بررسی عامل‌های هوش مصنوعی بر اساس اهداف و معیارهای مشخص‌شده توسط تیم امنیتی.
-
کنترل دسترسی به محیط آزمایش: اجرای آزمون‌ها فقط روی سامانه‌هایی که سازمان مالک آن‌هاست یا مجوز آزمایششان را دارد.
-
ثبت و ردیابی فعالیت‌ها: اتصال هر آزمایش به اپراتور مشخص و ثبت اقدامات برای بررسی و ممیزی امنیتی.
-
امکان توقف آزمایش: اجرای آزمون‌ها در محدوده زمانی مشخص و با قابلیت توقف توسط مسئول مربوطه.
آیا سازمان‌ها مستقیماً به Claude Mythos دسترسی خواهند داشت؟
خیر. سیسکو اعلام کرده است که Claude Mythos در چارچوب کنترل‌شده AI Defense فعالیت می‌کند و مشتریان به یک رابط آزاد برای تعامل مستقیم با این مدل دسترسی نخواهند داشت. هدف‌ها و محدوده آزمایش را اپراتور انسانی تعیین می‌کند و ابزار تنها روی سامانه‌های ثبت‌شده و مجاز فعالیت خواهد کرد.
قابلیت آزمایش تطبیقی AI Defense در حال حاضر ارائه شده است، اما نسخه مجهز به Claude Mythos ابتدا به‌زودی برای تعدادی از مشتریان سازمانی منتخب در دسترس قرار می‌گیرد. زمان و دامنه عرضه گسترده‌تر هنوز قطعی نیست.
این محصول چه کاربردی برای تیم‌های امنیت سایبری دارد؟
برای سازمان‌هایی که از عامل‌های هوش مصنوعی در فرایندهای کاری، پشتیبانی مشتریان یا دسترسی به اطلاعات داخلی استفاده می‌کنند، شناسایی ضعف‌های امنیتی پیش از بهره‌برداری اهمیت زیادی دارد. ابزارهایی مانند Cisco AI Defense می‌توانند به تیم‌های امنیتی کمک کنند رفتار عامل‌ها را در شرایط شبیه‌سازی‌شده مهاجمان بررسی کنند و پیش از تبدیل شدن یک ضعف به حادثه امنیتی، برای رفع آن اقدام کنند.
با گسترش استفاده از عامل‌های هوش مصنوعی، ارزیابی امنیتی این سامانه‌ها نیز باید از بررسی پاسخ‌های متنی فراتر برود و نحوه استفاده آن‌ها از ابزارها، دسترسی‌ها و اطلاعات سازمانی را در بر بگیرد.
