سایه بزرگ هوش مصنوعی: چرا ۵ درصد از کاربران AI می‌توانند بزرگ‌ترین تهدید امنیتی سازمان باشند؟

بزرگ‌ترین تهدیدهای امنیتی همیشه از بزرگ‌ترین گروه‌ها ناشی نمی‌شوند. در بسیاری از سازمان‌ها، در حالی که تیم‌های امنیتی روی کنترل استفاده عمومی کارکنان از ابزارهایی مانند ChatGPT، Claude و Copilot تمرکز کرده‌اند، گروه کوچکی از کاربران حرفه‌ای هوش مصنوعی در حال ایجاد یک سطح بسیار بزرگ‌تر از ریسک هستند.

این کاربران که به نوعی می‌توان آن‌ها را کاربران فوق‌فعال یا AI Power Users نامید، به‌صورت گسترده از مدل‌های هوش مصنوعی استفاده می‌کنند و گاهی ابزارها، افزونه‌ها و سرویس‌های تأییدنشده را مستقیماً وارد فرایندهای کاری سازمان می‌کنند.

بر اساس گزارش جدید شرکت Akamai با عنوان State of the Internet: Enterprise AI Usage Risk Report 2026، ۵ درصد از کاربران سازمانیِ پرمصرف هوش مصنوعی با مدل‌های AI حدود ۱۲ برابر بیشتر از ۵۰ درصد پایین نیروی کار تعامل دارند.

این داده‌ها بر اساس تله‌متری، الگوهای استفاده واقعی، تحقیقات امنیتی و تحلیل تهدیدها جمع‌آوری شده‌اند.

نتیجه روشن است: ریسک هوش مصنوعی در سازمان به‌طور مساوی بین همه کارکنان توزیع نشده است.

کاربران پرمصرف AI؛ نقطه تمرکز ریسک امنیتی

کاربران حرفه‌ای هوش مصنوعی تنها تعداد بیشتری درخواست به مدل‌ها ارسال نمی‌کنند؛ آن‌ها معمولاً AI را به بخش جدایی‌ناپذیر فعالیت‌های روزمره خود تبدیل کرده‌اند.

طبق داده‌های آکامای، یک مکالمه معمولی میان کارمند و مدل هوش مصنوعی حدود ۵ پرامپت دارد. اما کاربران حاضر در ۵ درصد بالای طیف، معمولاً مکالماتی با ۱۸ پرامپت یا بیشتر دارند.

این تفاوت نشان می‌دهد که برای این گروه، هوش مصنوعی دیگر صرفاً ابزاری برای افزایش بهره‌وری نیست؛ بلکه به یک همکار دیجیتال در فرایندهای کاری تبدیل شده است.

هرچه وابستگی به AI بیشتر شود، احتمال ورود اطلاعات حساس، کدهای داخلی، اسناد سازمانی و داده‌های تجاری به این ابزارها نیز افزایش پیدا می‌کند.

بنابراین تیم‌های امنیتی باید به جای پرسیدن اینکه «چه کسی از AI استفاده می‌کند؟»، سؤال دقیق‌تری مطرح کنند:

کدام کاربران بیشترین وابستگی را به هوش مصنوعی دارند و داده‌های حساس در اختیار کدام ابزارها قرار می‌گیرد؟

Shadow AI؛ تهدیدی که در پشت حساب‌های شخصی پنهان شده است

یکی از مهم‌ترین یافته‌های گزارش آکامای، میزان بالای استفاده از حساب‌های شخصی برای تعامل با ابزارهای هوش مصنوعی سازمانی است.

بر اساس این گزارش، حدود ۴۷.۱۱ درصد از مکالمات هوش مصنوعی در محیط‌های سازمانی از طریق هویت‌های شخصی انجام می‌شود، نه حساب‌هایی که توسط سازمان مدیریت می‌شوند.

این موضوع یک شکاف جدی در نظارت امنیتی ایجاد می‌کند.

وقتی کارمند از حساب شخصی خود برای استفاده از یک سرویس AI استفاده می‌کند، سازمان ممکن است نتواند به‌درستی تشخیص دهد:

• چه داده‌هایی وارد ابزار شده‌اند؛
• داده‌ها کجا ذخیره می‌شوند؛
• چه مدت نگهداری می‌شوند؛
• چه کسانی به آن‌ها دسترسی دارند؛
• و آیا اطلاعات برای آموزش مدل‌های عمومی مورد استفاده قرار می‌گیرند یا خیر.

تفاوت میان AI سازمانی و AI شخصی

برخی پلتفرم‌ها کنترل‌های سازمانی قدرتمندتری ارائه می‌کنند، در حالی که استفاده شخصی از سرویس‌ها می‌تواند تقریباً خارج از دید تیم‌های IT و امنیت باقی بماند.

طبق داده‌های آکامای:

• Gemini Enterprise: حدود ۹۸.۱۵ درصد تعاملات در چارچوب هویت سازمانی انجام می‌شود.
• Microsoft Copilot M365: حدود ۹۰.۵۵ درصد تعاملات با هویت سازمانی انجام می‌شود.
• DeepSeek: حدود ۹۹.۸ درصد تعاملات از طریق هویت شخصی انجام می‌شود.
• Microsoft Copilot Standard: حدود ۶۳.۹۲ درصد استفاده با هویت شخصی است.
• ChatGPT: حدود ۶۱.۳۶ درصد تعاملات از طریق حساب‌های شخصی انجام می‌شود.
• Claude: حدود ۶۱.۰۹ درصد تعاملات با هویت‌های شخصی صورت می‌گیرد.

مشکل حتی زمانی پیچیده‌تر می‌شود که کارکنان با ایمیل سازمانی، حساب شخصی و اشتراک رایگان یا Freemium برای یک سرویس AI ثبت‌نام کنند.

در چنین شرایطی ممکن است ایمیل شرکت در ظاهر سازمانی باشد، اما حساب و داده‌های مرتبط با آن تحت مدیریت سازمان قرار نداشته باشد.

۱۴.۴ درصد از تعاملات؛ ایمیل سازمانی اما حساب شخصی

یکی از یافته‌های قابل‌توجه گزارش این است که ۱۴.۴ درصد از مکالمات هوش مصنوعی سازمانی از طریق آدرس‌های ایمیل شرکتی متصل به اشتراک‌های شخصی Freemium انجام شده است.

این وضعیت یک تصور اشتباه رایج را آشکار می‌کند:

استفاده از ایمیل سازمانی لزوماً به معنای استفاده از یک حساب سازمانی نیست.

کارمند ممکن است با آدرس شرکت خود در یک سرویس AI ثبت‌نام کند، اما همچنان از یک حساب شخصی و خارج از سیاست‌های امنیتی سازمان استفاده کند.

در نتیجه، اطلاعات حساسی که در پرامپت‌ها وارد می‌شوند ممکن است تحت همان سطح کنترل، نظارت و حفاظت سرویس‌های سازمانی قرار نداشته باشند.

نابینایی امنیتی در برابر ابزارهای کوچک‌تر؛ Long-Tail Shadow AI

تمرکز تیم‌های امنیتی معمولاً روی نام‌های بزرگی مانند ChatGPT، Claude، Copilot و Gemini است.

اما مشکل اصلی ممکن است در ده‌ها ابزار کوچک‌تر پنهان شده باشد.

کارمندان امروزه از انواع مختلفی از ابزارهای AI استفاده می‌کنند؛ از سرویس‌های SaaS و ابزارهای تولید محتوا گرفته تا افزونه‌های مرورگر و دستیارهای برنامه‌نویسی.

این پدیده را می‌توان Shadow AI نامید؛ یعنی استفاده از ابزارهای هوش مصنوعی بدون تأیید یا نظارت رسمی سازمان.

مشکل اینجاست که بسیاری از این ابزارها از دید سیستم‌های امنیتی سازمان پنهان می‌مانند.

افزونه‌های هوش مصنوعی؛ دروازه‌ای جدید به داده‌های سازمان

افزونه‌های مرورگر و محیط‌های توسعه برنامه‌نویسی یا IDEها نیز به یکی دیگر از نقاط ضعف امنیتی تبدیل شده‌اند.

آکامای گزارش می‌دهد که ۱۷.۷ درصد از کارکنان شرکت‌های متوسط حداقل از یک افزونه هوش مصنوعی استفاده می‌کنند؛ این رقم در سازمان‌های بزرگ‌تر حدود ۹.۵۳ درصد است.

نگران‌کننده‌تر اینکه تقریباً ۷۵ درصد از این افزونه‌ها درخواست مجوزهای سطح بالا یا حیاتی دارند.

از سوی دیگر، ۱۶.۳۱ درصد از افزونه‌های AI دارای آسیب‌پذیری‌های شناخته‌شده CVE هستند؛ در حالی که این رقم برای مجموع افزونه‌های مرورگر حدود ۱۰.۸۰ درصد است.

به بیان ساده، یک افزونه هوش مصنوعی آسیب‌پذیر می‌تواند به مسیری برای دسترسی به اطلاعاتی تبدیل شود که کاربر در مرورگر یا محیط توسعه خود در اختیار دارد.

تهدید Shadow AI فقط نشت اطلاعات نیست

Shadow AI دیگر صرفاً یک مسئله مربوط به حریم خصوصی یا نشت داده نیست.

ترکیب ابزارهای هوش مصنوعی، افزونه‌ها، حساب‌های شخصی و عامل‌های خودکار AI می‌تواند سطح حمله جدیدی برای مجرمان سایبری ایجاد کند.

سه نمونه مهم از حملات مطرح‌شده در گزارش عبارت‌اند از:

۱. Vibe Hacking

در این روش، مهاجم فایل‌های دستورالعمل محلی مورد استفاده دستیارهای برنامه‌نویسی AI را به‌صورت مخفیانه تغییر می‌دهد.

هدف این است که دستیار هوش مصنوعی را به تولید کد آسیب‌پذیر یا انجام اقدامات غیرمجاز وادار کند.

۲. CursorJacking

در این سناریو، افزونه‌های مخرب برای سرقت اطلاعات حساسی مانند:

• کلیدهای API؛
• توکن‌های نشست؛
• کدهای منبع اختصاصی؛
• و اطلاعات ذخیره‌شده در پایگاه‌های داده محلی

به کار گرفته می‌شوند.

۳. CometJacking

در این نوع حمله، مهاجم از تزریق غیرمستقیم پرامپت (Indirect Prompt Injection) در صفحات وب مخرب استفاده می‌کند تا عامل هوش مصنوعی را فریب دهد.

در چنین شرایطی، هدف حمله دیگر فقط کاربر انسانی نیست؛ بلکه AI Agent به عنوان یک همکار دیجیتال نیز به هدف حمله تبدیل می‌شود.

CISOها باید رویکرد خود را تغییر دهند

واقعیت جدید برای مدیران ارشد امنیت اطلاعات یا CISOها این نیست که آیا کارکنان از هوش مصنوعی استفاده می‌کنند یا خیر.

پاسخ این سؤال مشخص است: بله، استفاده می‌کنند.

سؤال اصلی این است که:

هوش مصنوعی دقیقاً کجا، توسط چه کسانی، با چه داده‌هایی و تحت چه سطحی از کنترل سازمانی استفاده می‌شود؟

سازمان‌ها برای پاسخ به این سؤال باید روی کاربران پرمصرف، ابزارهای Shadow AI، افزونه‌ها و عامل‌های خودکار تمرکز بیشتری داشته باشند.

راهکارهای پیشنهادی برای افزایش امنیت هوش مصنوعی سازمانی

برای کاهش ریسک Shadow AI و استفاده کنترل‌نشده از ابزارهای هوش مصنوعی، آکامای چند اقدام کلیدی را پیشنهاد می‌کند.

۱. ایجاد دید مستمر نسبت به استفاده از AI

تمام ابزارهای هوش مصنوعی، افزونه‌های مرورگر و IDE و عامل‌های AI موجود در شبکه باید شناسایی شوند.

همچنین سازمان باید امکان بررسی و نظارت بر پرامپت‌ها، فایل‌های آپلودشده و پاسخ‌های تولیدشده را داشته باشد.

۲. مقابله با Shadow AI

استفاده از Single Sign-On یا SSO سازمانی، مسدود کردن ورودهای شخصی مدیریت‌نشده و شناسایی آدرس‌های ایمیل شرکتی متصل به اشتراک‌های شخصی می‌تواند سطح کنترل را افزایش دهد.

۳. استفاده از DLP مبتنی بر زمینه

راهکارهای سنتی جلوگیری از نشت داده یا DLP ممکن است نتوانند اطلاعات بدون ساختار موجود در پرامپت‌ها را به‌درستی شناسایی کنند.

به همین دلیل، بررسی محتوای پرامپت‌ها می‌تواند برای شناسایی کدهای داخلی، متن محرمانه و سایر داده‌های حساس ضروری باشد.

۴. ممیزی افزونه‌ها و مجوزها

سازمان‌ها باید فهرستی کامل از افزونه‌های مرورگر و IDE داشته باشند و مجوزهای آن‌ها را به‌طور منظم بررسی کنند.

افزونه‌هایی که دارای آسیب‌پذیری‌های شناخته‌شده CVE هستند نیز باید شناسایی و ارزیابی شوند.

۵. مدیریت AI Agentها به عنوان هویت‌های دیجیتال

عامل‌های خودکار هوش مصنوعی نباید صرفاً به عنوان «ابزار نرم‌افزاری» دیده شوند.

آن‌ها می‌توانند به داده‌ها، سیستم‌ها و سرویس‌های سازمانی دسترسی داشته باشند؛ بنابراین باید مانند یک هویت دیجیتال دارای سطح دسترسی بالا مدیریت شوند.

اعمال اصل کمترین سطح دسترسی (Least Privilege)، محدود کردن دامنه فعالیت و نظارت لحظه‌ای بر رفتار AI Agentها از اقدامات ضروری در این زمینه است.

جمع‌بندی؛ کوچک‌ترین گروه می‌تواند بزرگ‌ترین سایه را ایجاد کند

گسترش هوش مصنوعی در سازمان‌ها دیگر یک روند آینده‌نگرانه نیست؛ این فناوری همین حالا در بسیاری از فرایندهای کاری به یک همکار دیجیتال تبدیل شده است.

اما میزان ریسک برای همه کاربران یکسان نیست.

۵ درصد از کاربران پرمصرف AI می‌توانند به دلیل تعداد بالای تعاملات، استفاده از ابزارهای تخصصی، اتکا به حساب‌های شخصی و اتصال AI به فرایندهای حساس، سهم بسیار بزرگی از سطح حمله سازمان را ایجاد کنند.

در کنار آن‌ها، Shadow AI، افزونه‌های آسیب‌پذیر و AI Agentهای خودکار مسیرهای جدیدی برای سرقت داده و اجرای حملات سایبری ایجاد می‌کنند.

بنابراین رویکرد امنیتی آینده نباید صرفاً بر مسدود کردن ChatGPT یا کنترل چند ابزار معروف متمرکز باشد.

امنیت سازمانی در عصر AI به دید کامل، کنترل هویت، نظارت بر داده، مدیریت افزونه‌ها و حاکمیت دقیق بر عامل‌های هوش مصنوعی نیاز دارد.