چگونه امنیت ایجنت هوش مصنوعی را بر اساس ریسک تجاری اولویت‌بندی کنیم؟

در دنیای سازمانی امروز، شکاف میان کارایی و «امنیت ایجنت هوش مصنوعی» به سرعت در حال افزایش است. زمانی که یک ایجنت (مانند نمونه‌ای که به یک اپلیکیشن مدیریت هزینه‌ها متصل بود) به دلیل ترک شرکت توسط مالک آن یا تغییر مسیر کسب‌وکار، بدون صاحب و هدف باقی می‌ماند، به یک ریسک امنیتی جدی تبدیل می‌شود.

مدیریت این ریسک مستلزم درک مفهوم «شعاع انفجار» (Blast Radius) است؛ یعنی ایجنت چه دسترسی‌هایی دارد و در صورت سوءاستفاده یا نفوذ، چه میزان آسیب می‌تواند به فرآیندهای تجاری وارد کند.

تحلیل شعاع انفجار برای اولویت‌بندی ریسک

امنیت ایجنت هوش مصنوعی باید بر اساس هفت محور کلیدی ارزیابی شود تا تیم‌های امنیتی بتوانند منابع خود را بر پرخطرترین موارد متمرکز کنند:

·         دسترسی(Access): باید مشخص شود ایجنت چه توانایی‌هایی (خواندن، نوشتن، به‌روزرسانی یا حذف) دارد. دسترسی نوشتن به داده‌های مالی یا هویتی، ایجنت را از یک ابزار اتوماسیون به یک تهدید امنیتی تبدیل می‌کند.

·         دامنه مجوزها(Permission Scope): ایجنت‌ها اغلب مجوزها را از طریق توکن‌های OAuth به ارث می‌برند. این «اعتماد شناور» (Trust Drift) باعث می‌شود دسترسی‌های حساس مدت‌ها پس از تغییر گردش‌کار، همچنان معتبر باقی بمانند.

·         حساسیت داده‌ها(Data Sensitivity): ایجنت‌هایی که با داده‌های مالی، قراردادها یا اطلاعات شخصی (PII) در ارتباط هستند، نیاز به بررسی‌های سخت‌گیرانه‌تری دارند.

·         میزان مواجهه(Exposure): اگر ایجنت از طریق پورتال‌های عمومی یا لینک‌های اشتراکی در دسترس باشد، سطح حمله گسترده‌تری خواهد داشت.

·         طراحی اعتبارنامه(Credential Design): استفاده از کلیدهای API بلندمدت، شعاع انفجار را افزایش می‌دهد؛ بنابراین باید به سمت دسترسی‌های کوتاه‌مدت و محدود حرکت کرد.

·         مالکیت(Ownership): هر ایجنت باید یک «مالک انسانی» مشخص داشته باشد. ایجنت‌های بدون مالک (Orphaned Agents) به دلیل نبود نظارت، بسیار پرخطر هستند.

·         قابلیت دسترسی(Reachability): باید مشخص شود در صورت نفوذ، کدام سیستم‌های حیاتی (مانند  CRM  یا فایل‌سرورها) تحت تأثیر قرار می‌گیرند.

استراتژی‌های اجرایی برای تیم‌های امنیتی

برای مدیریت مؤثر، تیم‌های امنیتی باید ایجنت‌ها را بر اساس احتمال ایجاد «تأثیر تجاری» تریاژ (Triage) کنند:

1.      اولویت‌بندی بر اساس ریسک ترکیبی: ایجنت‌هایی که همزمان از داده‌های حساس استفاده می‌کنند، مجوزهای گسترده دارند و فاقد مالک هستند، باید در صدر فهرست اصلاحات قرار گیرند.

2.      اقدامات عملی فوری: کاهش دامنه مجوزها، لغو دسترسی‌های قدیمی (Stale access) و تعیین مالک مسئول، اولین گام‌های ضروری است.

3.      نظارت بر ابزارهای تاییدشده: تأیید یک ابزار به معنای ایمن بودن تمام مسیرهای داده در طول زمان نیست.

4.      مدیریت ایجنت‌های خودمختار: ایجنت‌های خودمختار (Autonomous) که بدون وقفه عمل می‌کنند، ریسک بسیار متفاوتی نسبت به یکپارچه‌سازی‌های سنتی دارند و نیاز به کنترل‌های سخت‌گیرانه‌تری دارند.

در نتیجه، سازمان‌ها برای دفاع از زیرساخت‌های خود در برابر حوادث هوش مصنوعی، نیاز دارند «ردپای حسابرسی» (Audit Trail) را از ابتدای چرخه حیات ایجنت‌ها بسازند. این کار، حاکمیت هوش مصنوعی را از یک بیانیه سیاست‌گذاری ساده به یک مدل عملیاتی قابل دفاع تبدیل می‌کند که در آن امنیت ایجنت هوش مصنوعی بر اساس قدرت نفوذ و میزان خسارت احتمالی اندازه‌گیری می‌شود.

منابع

این گزارش با استناد به چارچوب‌های مدیریت ریسک در حوزه AI Security تهیه شده است.

این گزارش حاصل تولید، تحقیق و تحلیل اختصاصی تحریریه ۲۴ نیوز است.

اتاق تحلیل ۲۴ نیوز | دیدگاه تحلیلی بهراد یوسفی

مشکل اصلی در امنیت ایجنت‌های هوشمند، «خزش دسترسی» (Access Creep) است که در محیط‌های ابری به یک بحران عملیاتی تبدیل شده. ایجنت‌ها برخلاف سرویس‌های سنتی، ماهیتی پویا دارند؛ آن‌ها می‌توانند کدهای جدید تولید کنند، تراکنش‌ها را تأیید کنند و در عرض چند ثانیه به داده‌هایی دسترسی یابند که شاید یک کاربر انسانی در یک هفته به آن‌ها دسترسی پیدا می‌کرد.

نگاهی به حادثه اخیر که در متن اشاره شد، نشان می‌دهد که ما در حال انتقال از «مدیریت هویت انسانی» به «مدیریت هویت ماشینی» هستیم. وقتی یک ایجنت (Agent) با توکن‌های OAuth باقی‌مانده از یک کارمند سابق فعالیت می‌کند، ما با یک «شکاف حکمرانی» روبرو هستیم. این موضوع، اصل «کمترین امتیاز» (Principle of Least Privilege) را در مدل‌های Zero Trust به چالش می‌کشد.

در آینده نزدیک، ریسک واقعی نه از جانب نفوذهای پیچیده، بلکه از جانب «ایجنت‌های یتیم» (Orphaned Agents) خواهد بود که در سیستم‌های ما باقی مانده و به طور خودکار وظایفی را انجام می‌دهند که دیگر نیازی به آن‌ها نیست. برای حل این معضل، تیم‌های SecOps باید «چرخه حیات ایجنت» (Agent Lifecycle Management) را دقیقاً مشابه چرخه حیات کارکنان سازمان مدیریت کنند؛ یعنی همان‌طور که برای استخدام و خروج یک کارمند فرآیند HR داریم، باید برای «استخدام» و «بازنشستگی» هر ایجنت، فرآیند امنیتی مدون داشته باشیم.

امنیت ایجنت هوش مصنوعی دیگر یک وظیفه جانبی برای تیم‌های IT نیست؛ بلکه هسته مرکزی تاب‌آوری دیجیتال سازمان است. ایجنت‌ها در حال تبدیل شدن به «کارمندان دیجیتال» ما هستند و زمان آن رسیده که آن‌ها را با همان سخت‌گیری‌های نظارتی و حاکمیتی مدیریت کنیم. هر ایجنتی که فاقد مالک انسانی پاسخگو باشد، در واقع یک حفره امنیتی در قلب زیرساخت سازمان شماست.