گسترش ابزارهای هوش مصنوعی تأییدشده در سازمان‌ها، تهدید تازه‌ای را ایجاد کرده است: کارمندانی که از ابزارهای مجاز به روش‌هایی غیرمجاز یا پیش‌بینی‌نشده استفاده می‌کنند. این پدیده که «Shady AI» نام گرفته، می‌تواند به یکی از مهم‌ترین چالش‌های حکمرانی و امنیت هوش مصنوعی تبدیل شود.

در مارس ۲۰۲۶، یک عامل هوش مصنوعی داخلی در شرکت Meta باعث وقوع یک حادثه امنیتی سطح یک (Sev 1) شد. در این حادثه، داده‌های حساس شرکت و کاربران برای مدتی در اختیار کارکنانی قرار گرفت که مجوز دسترسی به آن‌ها را نداشتند.

ماجرا زمانی آغاز شد که یکی از کارکنان Meta یک پرسش فنی را در انجمن داخلی شرکت مطرح کرد. یک مهندس برای تحلیل این پرسش از یک عامل هوش مصنوعی تأییدشده استفاده کرد، اما این عامل پاسخ خود را بدون دریافت مجوز به‌صورت عمومی منتشر کرد.

در ادامه، کارمند بر اساس پیشنهاد ارائه‌شده توسط هوش مصنوعی عمل کرد و در نتیجه، حجم قابل‌توجهی از داده‌های حساس برای بیش از دو ساعت در دسترس مهندسان غیرمجاز قرار گرفت.

این حادثه نمونه‌ای از Shadow AI نبود؛ ابزار مورد استفاده کاملاً مورد تأیید سازمان قرار داشت. مشکل این بود که هوش مصنوعی به شیوه‌ای رفتار کرد که کسی پیش‌بینی نکرده بود.

این دقیقاً همان چیزی است که می‌توان آن را چالش بعدی امنیت سایبری در حوزه حکمرانی هوش مصنوعی دانست: Shady AI.

Shady AI چیست و چه تفاوتی با Shadow AI دارد؟

برای درک این مفهوم، باید تفاوت میان دو اصطلاح را مشخص کرد:

• Shadow AI: استفاده کارکنان از ابزارهای هوش مصنوعی تأییدنشده و خارج از کنترل سازمان.
• Shady AI: استفاده از ابزارهای هوش مصنوعی تأییدشده، اما به روش‌هایی که سازمان مجاز نکرده، پیش‌بینی نکرده یا به‌درستی بر آن‌ها نظارت ندارد.

در Shadow AI، فعالیت خارج از دید سازمان اتفاق می‌افتد؛ اما در Shady AI، ابزار در داخل سازمان و با مجوز رسمی حضور دارد.

همین مسئله، Shady AI را به چالشی دشوارتر برای تیم‌های امنیتی تبدیل می‌کند.

تأیید یک ابزار دیگر به معنای تأیید تمام روش‌هایی نیست که کارکنان می‌توانند از آن استفاده کنند.

در مورد یک ابزار غیرمجاز، تیم امنیت می‌تواند آن را مسدود یا ممنوع کند. اما وقتی یک ابزار قبلاً تأیید و در سراسر سازمان مستقر شده است، چنین اهرم کنترلی به‌سادگی وجود ندارد.

چرا Shady AI یک تهدید امنیتی جدی است؟

استفاده خارج از چارچوب از ابزارهای هوش مصنوعی می‌تواند پیامدهای مختلفی برای سازمان‌ها داشته باشد.

افزایش ریسک‌های امنیتی

استفاده نادرست از قابلیت‌های AI می‌تواند احتمال افشای داده‌ها، نقض مقررات، دسترسی غیرمجاز و خروج اطلاعات حساس از سازمان را افزایش دهد.

افزایش هزینه‌های هوش مصنوعی

استفاده از AI برای فعالیت‌های تکراری، غیرضروری یا مشابه می‌تواند مصرف توکن و هزینه سرویس‌های هوش مصنوعی را افزایش دهد.

کاهش بهره‌وری سازمان

واکنش‌های محدودکننده و کنترل‌های سخت‌گیرانه برای مقابله با سوءاستفاده از AI می‌توانند اصطکاک کاری ایجاد کرده و سرعت نوآوری کارکنان را کاهش دهند.

افزایش فشار بر تیم‌های امنیت و IT

تیم‌های امنیتی و فناوری اطلاعات ممکن است بخش زیادی از زمان خود را صرف بررسی ابزارها، ممیزی فعالیت‌ها و واکنش به استفاده‌های غیرمنتظره از AI کنند؛ در نتیجه فرصت کمتری برای کاهش پیشگیرانه سطح حمله و تقویت کنترل‌های دسترسی خواهند داشت.

چه عواملی باعث گسترش Shady AI شده‌اند؟

سه عامل اصلی در شکل‌گیری این پدیده نقش دارند.

۱. افزایش تعداد ابزارهای هوش مصنوعی تأییدشده

سازمان‌ها با سرعت زیادی در حال سرمایه‌گذاری روی ابزارهای AI هستند. هرچه تعداد این ابزارها بیشتر شود، محیط فناوری سازمان نیز پیچیده‌تر می‌شود.

این وضعیت شباهت زیادی به پدیده SaaS Sprawl دارد؛ یعنی افزایش تعداد سرویس‌های نرم‌افزاری که مدیریت، نظارت و کنترل همه آن‌ها برای تیم‌های IT و امنیت دشوار می‌شود.

با محدود بودن منابع، بررسی اینکه هر قابلیت هوش مصنوعی در هر ابزار و هر سیستم دقیقاً چگونه استفاده می‌شود، روزبه‌روز سخت‌تر خواهد شد.

۲. دسترسی‌های گسترده به‌صورت پیش‌فرض

هوش مصنوعی به‌تدریج در ابزارهایی که کارکنان از قبل استفاده می‌کنند ادغام شده است و قابلیت‌های آن نیز سریع‌تر از توان تیم‌های امنیتی برای نظارت و کنترل گسترش پیدا می‌کند.

یک دستیار هوش مصنوعی ممکن است ابتدا فقط برای خلاصه‌کردن اسناد استفاده شود، اما بعداً قابلیت‌هایی مانند جست‌وجو در دانش داخلی سازمان، دسترسی به نرم‌افزارهای تجاری، ساخت Workflow و حتی انجام اقدامات به نمایندگی از کاربر را به دست آورد.

از سوی دیگر، برخی قابلیت‌های پیشرفته امنیتی و انطباق سازمانی، مانند محدود کردن استفاده از ابزار AI به دستگاه‌های متعلق به سازمان، تنها در گران‌ترین سطوح اشتراک سرویس‌ها ارائه می‌شوند؛ در حالی که قابلیت‌های هوش مصنوعی ممکن است به‌صورت پیش‌فرض در اختیار کاربران قرار گرفته باشند.

در واقع ممکن است خود ابزار تغییر نکرده باشد؛ اما کاری که کارمند می‌تواند با آن انجام دهد تغییر کرده است.

۳. سرعت تغییر الگوهای استفاده از AI بیشتر از سرعت تغییر سیاست‌هاست

کارکنان می‌توانند با استفاده از قابلیت‌های AI موجود در ابزارهای تأییدشده، برنامه‌ها و Workflowهای جدید ایجاد و حتی پیش از آنکه تیم‌های امنیت و IT از وجود آن‌ها مطلع شوند، آن‌ها را مستقر کنند.

سازمان ممکن است برای جلوگیری از یک روش پرریسک، کنترل خاصی ایجاد کند؛ اما کارکنان می‌توانند خیلی سریع راه دیگری برای رسیدن به همان نتیجه پیدا کنند.

در نهایت شکافی میان آنچه سیاست‌های سازمان اجازه می‌دهند و آنچه فناوری AI واقعاً امکان‌پذیر می‌کند شکل می‌گیرد.

چرا مدل‌های سنتی حکمرانی هوش مصنوعی کافی نیستند؟

حکمرانی سنتی معمولاً بر تعیین فعالیت‌های مجاز، آموزش کارکنان و الزام آن‌ها به رعایت قوانین استوار است.

این مدل زمانی بهتر عمل می‌کند که فناوری و کاربردهای آن قابل پیش‌بینی باشند. اما هوش مصنوعی دائماً در حال تغییر است و روش استفاده از آن نیز به همان سرعت تحول پیدا می‌کند.

سیاست‌ها نمی‌توانند تمام کاربردهای AI را پیش‌بینی کنند

سیاست استفاده قابل قبول یا Acceptable Use Policy (AUP) می‌تواند اصول کلی را مشخص کند، اما نمی‌تواند تمام قابلیت‌هایی را که یک ابزار AI در آینده به دست خواهد آورد یا تمام روش‌هایی را که کارکنان از آن استفاده خواهند کرد، پیش‌بینی کند.

ممکن است یک دستیار AI امروز فقط برای خلاصه‌سازی اسناد تأیید شده باشد، اما فردا قابلیت دسترسی به اطلاعات داخلی، برنامه‌های سازمانی یا اجرای اقدامات به نمایندگی از کاربر را پیدا کند.

آموزش کارکنان نمی‌تواند همگام با AI پیش برود

آموزش یک‌باره کارکنان نمی‌تواند با قابلیت‌ها و الگوهای استفاده‌ای که دائماً در حال تغییر هستند، همگام شود.

از طرف دیگر، بسیاری از کارکنان غیرمتخصص هنوز درک دقیقی از نحوه استفاده ایمن و مسئولانه از هوش مصنوعی ندارند.

حتی مفاهیمی مانند حداقل سطح دسترسی (Least Privilege) یا مدیریت اسرار و اطلاعات حساس (Secrets Management) ممکن است برای کارکنانی که آموزش لازم را ندیده‌اند، مفاهیمی انتزاعی و دشوار باشند.

محدودیت‌های بیش از حد می‌توانند به راه‌های دور زدن منجر شوند

محدودکردن یک قابلیت خاص ممکن است یک ریسک مشخص را کاهش دهد، اما الزاماً مشکل اصلی را حل نمی‌کند.

با تکامل ابزارهای AI، کارکنان ممکن است مسیر دیگری برای انجام همان کار پیدا کنند؛ مسیری که حتی می‌تواند از دید تیم امنیتی پنهان‌تر باشد.

در چنین شرایطی، مدل حکمرانی سازمان همیشه یک قدم عقب‌تر از فناوری حرکت می‌کند.

راهکار چیست؟ حکمرانی پیش‌فرض برای هوش مصنوعی

راهکار مؤثر این است که مسیر امن و تحت نظارت، ساده‌ترین مسیر برای استفاده از AI باشد.

به‌جای اینکه از کارکنان انتظار داشته باشیم خودشان تمام قوانین امنیتی را درک کرده و هنگام ساخت ابزارها و Workflowهای مبتنی بر AI آن‌ها را رعایت کنند، سازمان باید محیطی فراهم کند که کنترل‌های لازم از ابتدا در آن تعبیه شده باشد.

در چنین رویکردی، کارکنان می‌توانند در یک محیط کنترل‌شده با AI کار کنند؛ محیطی که در آن مجوزها، دسترسی به داده‌ها، کنترل‌های امنیتی و نظارت سازمانی از ابتدا تعریف شده‌اند.

به‌جای تلاش برای پیش‌بینی تمام کاربردهای پرریسک AI، سازمان می‌تواند حکمرانی را مستقیماً در محیط ساخت و اجرای ابزارهای هوش مصنوعی قرار دهد.

این رویکرد شامل موارد زیر است:

• کنترل دسترسی به داده‌ها و سیستم‌ها
• اعمال سطح دسترسی متناسب با نقش کاربران
• ایجاد دید کامل نسبت به ابزارها و Workflowهای ساخته‌شده
• نظارت بر فعالیت Agentهای هوش مصنوعی
• محدود کردن اقداماتی که برنامه‌ها و Agentهای مبتنی بر AI می‌توانند انجام دهند

مزایای حکمرانی پیش‌فرض AI

وقتی ساخت، اجرا و نظارت بر برنامه‌های هوش مصنوعی در یک محیط یکپارچه انجام شود، هم کارکنان و هم تیم‌های امنیتی سود می‌برند.

کارکنان می‌توانند سریع‌تر ابزارها و Workflowهای مبتنی بر AI را ایجاد و اجرا کنند، بدون اینکه مجبور باشند برای هر فعالیت با محدودیت‌های پیچیده امنیتی مواجه شوند.

تیم‌های IT و امنیت نیز می‌توانند دید بهتری نسبت به نحوه استفاده از AI داشته باشند، کنترل‌های یکپارچه اعمال کنند، فعالیت‌های دستی مربوط به حکمرانی را کاهش دهند و استفاده سازمان از هوش مصنوعی را با اطمینان بیشتری گسترش دهند.

در این مدل، حکمرانی دیگر مانعی برای نوآوری نیست؛ بلکه به ساده‌ترین و امن‌ترین مسیر استفاده از AI تبدیل می‌شود.

حرکت امنیت سایبری از «مانع» به «توانمندساز»

تیم‌های امنیتی مجبور نیستند بین دو گزینه «گسترش استفاده از هوش مصنوعی» و «کاهش ریسک‌های امنیتی» یکی را انتخاب کنند.

هدف اصلی باید این باشد که مسیر تحت نظارت و امن، ساده‌ترین مسیر برای کارکنان باشد.

اگر کارکنان بتوانند در محیطی امن و کنترل‌شده ابزارهای مبتنی بر AI را بسازند و تنها به داده‌ها و سیستم‌هایی دسترسی داشته باشند که مجاز به استفاده از آن‌ها هستند، تیم‌های امنیتی نیز زمان کمتری را صرف تعقیب استفاده‌های غیرمنتظره از هوش مصنوعی خواهند کرد.

در مقابل، منابع بیشتری برای کاهش سطح حمله، تقویت کنترل‌های دسترسی و کمک به سازمان برای استفاده سریع‌تر و ایمن‌تر از فناوری‌های جدید آزاد خواهد شد.

جمع‌بندی

Shady AI ممکن است یکی از مهم‌ترین چالش‌های نسل جدید حکمرانی هوش مصنوعی در سازمان‌ها باشد.

مشکل دیگر فقط ابزارهای هوش مصنوعی غیرمجاز نیست. حتی ابزارهایی که توسط سازمان تأیید شده‌اند، می‌توانند در صورت داشتن دسترسی‌های گسترده و قابلیت‌های در حال توسعه، به شیوه‌هایی استفاده شوند که سیاست‌های امنیتی برای آن‌ها آماده نیستند.

بنابراین سازمان‌ها باید از رویکرد سنتی «اجازه بده یا مسدود کن» فاصله بگیرند و به سمت حکمرانی مستمر، کنترل دسترسی دقیق، نظارت بر رفتار AI و ایجاد محیط‌های امن برای توسعه و اجرای Agentها و Workflowهای هوش مصنوعی حرکت کنند.

در دنیایی که قابلیت‌های AI سریع‌تر از سیاست‌های سازمانی تغییر می‌کنند، امنیت موفق الزاماً امنیتی نیست که بیشترین محدودیت را اعمال کند؛ بلکه امنیتی است که مسیر امن را به آسان‌ترین انتخاب برای کاربر تبدیل کند.