عامل‌های هوش مصنوعی (AI Agents) به سطح جدیدی از امنیت نیاز دارند؛ سطحی که فراتر از رویکردهای سنتی Zero Trust باشد. این عامل‌ها می‌توانند با سرعت بسیار بالا، به‌شکل غیرقابل‌پیش‌بینی و به‌صورت مداوم فعالیت کنند و همین ویژگی‌ها مدل‌های قدیمی احراز هویت، کنترل دسترسی و تشخیص تهدید را با چالش مواجه کرده است.

در این گفت‌وگو، کریس وبر (Chris Webber)، معاون بازاریابی محصول در Teleport، توضیح می‌دهد که چرا اصول Zero Trust باید برای سازگاری با نسل جدید عامل‌های هوش مصنوعی تکامل پیدا کنند. او همچنین درباره رویکرد Teleport شامل Trusted Runtimeهای بدون سطح دسترسی اولیه و امنیت هویت با قابلیت نظارت لحظه‌ای بر رفتار Agentها صحبت می‌کند.

از نگاه وبر، تیم‌های امنیتی دیگر نمی‌توانند تنها پس از وقوع یک رفتار مشکوک به‌دنبال ناهنجاری بگردند؛ بلکه باید بتوانند در تمام مراحل فعالیت یک Agent، قوانین امنیتی را به‌صورت مداوم و بلادرنگ اعمال کنند.

چرا Zero Trust برای AI Agentها کافی نیست؟

اصول Zero Trust بیش از یک دهه است که یکی از پایه‌های مهم مدیریت هویت و امنیت سایبری محسوب می‌شود و همچنان برای هویت‌های انسانی و ماشینی که بر اساس این مدل طراحی شده‌اند، اهمیت زیادی دارد.

اما AI Agentها رفتارهایی از خود نشان می‌دهند که در زمان شکل‌گیری اصول سنتی Zero Trust چندان مورد توجه نبود. Agentها می‌توانند مانند نرم‌افزار سریع عمل کنند، مانند انسان‌ها غیرقابل‌پیش‌بینی باشند و برای دستیابی به یک هدف، به‌صورت پیوسته و بدون توقف فعالیت کنند.

یکی از مهم‌ترین اصول Zero Trust این است:

«به‌صورت صریح اعتبارسنجی کنید.»

در مدل‌های سنتی، این اعتبارسنجی معمولاً در نقاط مشخص و مجزای احراز هویت انجام می‌شود. اما این رویکرد زمانی که یک Agent بتواند به‌صورت ناشناس فعالیت کند یا حتی خود را به‌جای یک انسان معرفی کند، دیگر کافی نیست.

به همین دلیل، مفهوم احراز هویت باید از اعتبارسنجی در یک لحظه مشخص فراتر برود. در کنار آن، مجوزهای ایستا نیز کافی نیستند. این قابلیت‌ها باید در قالب Runtimeهایی توسعه پیدا کنند که به‌صورت معماری‌شده، مرزهای دسترسی، اجرا و ارتباطات Agent را بر اساس یک هویت منحصربه‌فرد کنترل کنند.

اصل Least Privilege هم باید تکامل پیدا کند

اصل دیگر Zero Trust یعنی «حداقل سطح دسترسی» (Least Privilege) همچنان برای انسان‌ها و حساب‌های سرویس اهمیت دارد، اما در دنیای Agentها باید به سطحی فراتر از یک هویت منفرد گسترش پیدا کند.

برای مثال، باید رفتار مجموعه‌ای از Agentها یا یک گروه از Agentها نیز به‌طور صریح کنترل شود.

ممکن است یک اقدام در سطح یک Agent به‌تنهایی کاملاً مجاز باشد، اما ترکیب همان اقدامات توسط ده‌ها Agent بتواند پیامدهای مخربی ایجاد کند.

بنابراین، سازمان‌ها باید فقط تعیین نکنند که «هر Agent چه کاری می‌تواند انجام دهد»، بلکه باید مشخص کنند:

«یک گروه از Agentها در مجموع چه کارهایی مجاز به انجام آن هستند؟»

این همان جایی است که مفهوم مرزهای تصمیم‌گیری (Decision Boundaries) اهمیت پیدا می‌کند.

اصل «فرض کنید سیستم نقض شده است» نیز باید تغییر کند

سومین اصل مهم Zero Trust یعنی Assume Breach نیز در عصر Agentهای هوش مصنوعی نیازمند بازتعریف است.

در اینجا یک تهدید جدید مطرح می‌شود: ممکن است Agent به‌تدریج از هدف اولیه خود فاصله بگیرد یا اصطلاحاً دچار انحراف از هدف (Goal Drift) شود.

این انحراف لزوماً همیشه نتیجه یک حمله سایبری نیست. تکنیک‌هایی مانند Goal Hijacking یا Reward Hacking می‌توانند باعث تغییر رفتار Agent شوند، اما عواملی مانند تعمیم نادرست رفتار (Benign Misgeneralization) یا تغییر زمینه و Context در طول زمان نیز می‌توانند همین نتیجه را ایجاد کنند.

در نهایت، تفاوتی ندارد که این اتفاق به دلیل حمله، خطا یا انحراف تدریجی رخ داده باشد؛ نتیجه می‌تواند یکسان باشد: Agent دیگر مطابق هدف تعریف‌شده عمل نمی‌کند.

بنابراین، اصول Zero Trust باید با درنظرگرفتن ویژگی‌های خاص Agentها توسعه پیدا کنند تا ابزارهای لازم برای کنترل و مدیریت این نسل جدید از بازیگران دیجیتال شکل بگیرد.

Teleport چگونه امنیت Agentهای هوش مصنوعی را متحول می‌کند؟

به گفته کریس وبر، رویکرد Teleport را می‌توان از دو جنبه بررسی کرد:

1. معماری لازم برای کنترل و مهار Agentها که در قالب Teleport Trusted Runtimes ارائه می‌شود.
2. نظارت و واکنش امنیتی مداوم که بخشی از راهکار Teleport Identity Security است.

هر Agent باید هویت منحصربه‌فرد داشته باشد

نخستین گام این است که هر Agent یک هویت منحصربه‌فرد و قابل‌اعتبارسنجی داشته باشد؛ هویتی که بتوان آن را به یک انسان یا یک پلتفرم مشخص نسبت داد.

از طرف دیگر، Agent نباید خارج از یک Trusted Runtime فعالیت کند.

Trusted Runtime محیطی است که به‌صورت معماری‌شده، مرزهای مشخصی برای دسترسی عملیاتی، اجرای دستورات و ارتباط با محیط خارجی ایجاد می‌کند.

نکته مهم این است که این Runtime در زمان ایجاد Agent باید هیچ سطح دسترسی اولیه‌ای نداشته باشد.

به این ترتیب، هر اتصال باید به‌صورت صریح ایجاد شود و هر اقدام نیز باید به‌طور مشخص مجوز داشته باشد.

Runtime باید پس از پایان کار از بین برود

Trusted Runtime همچنین نباید بیشتر از مدت موردنیاز Agent فعال بماند.

زمانی که Agent کار خود را به پایان می‌رساند یا یک سطح ریسک شناسایی می‌شود، Runtime باید به‌طور کامل منقضی شود.

این رویکرد چند مزیت امنیتی مهم دارد:

• از فعالیت خارج از کنترل Agentها جلوگیری می‌کند.
• دسترسی‌های دائمی (Standing Privileges) را حذف می‌کند.
• داده‌های ذخیره‌شده را از بین می‌برد.
• سطح حمله و ریسک ناشی از باقی‌ماندن دسترسی‌ها را کاهش می‌دهد.

نظارت مداوم بر رفتار Agentها

پس از ایجاد این معماری، Teleport امکان نظارت مداوم را برای شناسایی ریسک‌های مربوط به Agentهای منفرد و همچنین رفتار جمعی آن‌ها فراهم می‌کند.

هر اقدام تعاملی که Agent انجام می‌دهد، ثبت و ارزیابی می‌شود تا در صورت وجود ریسک، اقدامات لازم انجام شود.

اما نکته مهم این است که رفتار Agentها نباید به‌صورت جداگانه ارزیابی شود؛ بلکه باید نسبت به هدف اعلام‌شده Agent سنجیده شود.

برای مثال، اگر مجموعه‌ای از اقدامات یک Agent در ظاهر مجاز باشند اما در کنار یکدیگر نشان دهند که Agent از هدف اصلی خود منحرف شده است، سیستم باید بتواند این ریسک را در همان لحظه شناسایی کند.

در چنین شرایطی، واکنش امنیتی می‌تواند حتی شامل پایان‌دادن به Session، حذف Trusted Runtime و متوقف‌کردن Agent باشد.

چرا امنیت باید از Detection به Enforcement مداوم تغییر کند؟

مدل سنتی Identity Threat Detection and Response یا ITDR اساساً برای دنیایی طراحی نشده بود که Agentهای هوش مصنوعی در آن نقش بازیگران مستقل را ایفا کنند.

در مدل سنتی، هویت‌ها معمولاً یا متعلق به یک انسان بودند یا یک Service Account. همچنین فرض بر این بود که مجوزهای تعریف‌شده می‌توانند سطح دسترسی مناسب را تضمین کنند.

در چنین شرایطی، ابزارهای ITDR عمدتاً وظیفه داشتند رفتارهای غیرعادی را شناسایی کنند.

اما با ورود AI Agentها، شرایط کاملاً متفاوت شده است.

چه اتفاقی می‌افتد اگر یک Agent با اعتبارنامه و هویت انسانی که آن را اجرا کرده است فعالیت کند؟

یا اگر یک Agent برای انجام یک وظیفه، ۲۵ نسخه دیگر از خودش ایجاد کند؟

در چنین سناریویی، تشخیص ناهنجاری پس از وقوع اتفاق دیگر کافی نیست.

آینده امنیت AI Agentها؛ کنترل در هر مرحله

در عصر Agentهای هوش مصنوعی، سیستم‌های امنیتی باید از ابتدا برای Enforcement مداوم طراحی شوند.

هر Agent باید:

• هویت منحصربه‌فرد داشته باشد؛
• به‌صورت صریح شناسایی و اعتبارسنجی شود؛
• در محیطی کنترل‌شده اجرا شود؛
• برای هر اقدام مجوز مشخص داشته باشد؛
• به‌صورت مداوم تحت نظارت قرار گیرد؛
• و رفتار آن نسبت به هدف تعریف‌شده ارزیابی شود.

در این مدل، Governance و Execution دیگر نمی‌توانند دو فرایند جدا از یکدیگر باشند. سیستم امنیتی باید بتواند هدف Agent را دریافت کند، اقدامات آن را با هدف مقایسه کند و در صورت مشاهده انحراف، بدون انتظار برای بررسی انسانی وارد عمل شود.

این مداخله باید با سرعت ماشین (Machine Speed) انجام شود، نه با سرعت فرایندهای سنتی بررسی انسانی.

جمع‌بندی

ظهور AI Agentها نشان می‌دهد که مدل سنتی Zero Trust، با وجود اهمیت و کارایی همچنان، برای پاسخ‌گویی به رفتارهای جدید Agentهای هوش مصنوعی به بازنگری نیاز دارد.

Agentها سریع، مداوم، خودکار و گاهی غیرقابل‌پیش‌بینی هستند. به همین دلیل، مفاهیمی مانند احراز هویت، Least Privilege و Assume Breach باید از سطح کنترل یک هویت منفرد و یک نقطه زمانی مشخص فراتر بروند.

مدل جدید امنیتی باید بر پایه هویت منحصربه‌فرد، Runtimeهای مورد اعتماد، دسترسی بدون مجوز اولیه، نظارت مداوم و Enforcement در لحظه شکل بگیرد.

در چنین معماری‌ای، امنیت دیگر صرفاً به معنای شناسایی یک تهدید پس از وقوع آن نیست؛ بلکه باید بتواند هر اقدام Agent را در همان لحظه کنترل، ارزیابی و در صورت لزوم متوقف کند.

این تغییر، یکی از مهم‌ترین الزامات امنیت سایبری در مسیر ورود سازمان‌ها به عصر Agentic AI خواهد بود.