شرکت check point اخیرا گزارش روند حملات سایبری در می ۲۰۲۶ را منتشر کرده است. بر اساس داده‌های این گزارش، بررسی ترافیک واقعی سازمان‌ها نشان داده که حدود ۴ درصد از تمام پرامپت‌های ارائه‌شده توسط کارکنان به هوش مصنوعی مولد منجر به افشای اطلاعات حساس شده‌اند.

این وضعیت، زمانی که در کنار تعداد سازمان‌های استفاده‌کننده و میانگین میزان استفاده کارکنان قرار می‌گیرد، نگرانی‌های جدی درباره امنیت داده‌های سازمانی ایجاد می‌کند. بر اساس این گزارش، ۹۱ درصد سازمان‌های جهان با چالش نشت اطلاعات حساس مواجه هستند؛ زیرا کارکنان آن‌ها به‌طور میانگین با استفاده از ۹ ابزار هوش مصنوعی مولد، ماهانه ۷۰ پرامپت تولید می‌کنند.

با توجه به اینکه بخش عمده نشت داده‌های حساس در سازمان‌ها به‌صورت ناخواسته رخ می‌دهد، این آمار نشان می‌دهد که استفاده از هوش مصنوعی در محیط‌های کاری، بدون کنترل کافی و آگاهی لازم کارکنان، به‌سرعت در حال گسترش است. بسیاری از کارکنان شناخت دقیقی از داده‌های حساس ندارند و حتی از این موضوع آگاه نیستند که اطلاعات واردشده در ابزارهای هوش مصنوعی ممکن است ذخیره شوند، برای آموزش یا تحلیل مورد استفاده قرار گیرند یا از طریق افزونه‌ها و سرویس‌های جانبی به خارج از سازمان منتقل شوند.

از سوی دیگر، بسیاری از سازمان‌ها نیز هنوز چارچوب مشخصی برای مدیریت، نظارت و کنترل استفاده از ابزارهای هوش مصنوعی تدوین نکرده‌اند. این خلأ حاکمیتی، در کنار تنوع و تعدد این ابزارها، ریسک افشای داده‌ها را افزایش می‌دهد؛ زیرا هر ابزار سیاست‌های متفاوتی در زمینه مدیریت داده، سطح امنیت و شیوه دسترسی دارد و اعمال کنترل یکپارچه بر همه آن‌ها را دشوار می‌کند.

شکاف امنیتی در استفاده از هوش مصنوعی مولد 

ریسک‌های ناشی از استفاده از هوش مصنوعی مولد در سازمان‌ها را می‌توان در عواملی مانند ناتوانی کارکنان در تشخیص لحظه‌ای داده‌های حساس، نبود سیاست‌های الزام‌آور برای استفاده از هوش مصنوعی، استفاده کنترل‌نشده از ابزارهای شخصی و فقدان نظارت محتوایی بر پرامپت‌ها جست‌وجو کرد.

با این حال، کارکنان می‌توانند با افزایش آگاهی و رعایت اصول امنیتی، این ریسک‌ها را هم برای خود و هم برای سازمان کاهش دهند. بر اساس مطالعات امنیتی، رفتارهای روزمره کاربران یکی از مهم‌ترین عوامل نشت اطلاعات محسوب می‌شود. از این رو، کارکنان باید بدانند داده‌هایی مانند اطلاعات مشتریان، کدهای اختصاصی، اسناد داخلی و سایر اطلاعات محرمانه در دسته داده‌های حساس قرار می‌گیرند و نباید در پرامپت‌های ارسالی به ابزارهای هوش مصنوعی وارد شوند.

در چنین شرایطی، استفاده از داده‌های کلی، ناشناس و غیرقابل انتساب اهمیت زیادی دارد. برای مثال، به جای استفاده از نام واقعی افراد یا شرکت‌ها، می‌توان از عباراتی مانند «مشتری A» یا «شرکت X» استفاده کرد. همچنین لازم است کارکنان پیش از ارسال هر پرامپت، اطلاعات حساس را حذف، ناشناس‌سازی یا ساده‌سازی کنند تا احتمال افشای اطلاعات به حداقل برسد.

در مقابل، سازمان‌ها مسئولیت گسترده‌تری در حفظ امنیت داده‌ها بر عهده دارند و باید مجموعه‌ای از کنترل‌های کلیدی را به‌صورت هم‌زمان اجرا کنند. نخستین گام، طبقه‌بندی اطلاعات سازمان در سطوحی مانند عمومی، داخلی و محرمانه است. در صورت نیاز نیز باید داده‌های حساس ناشناس‌سازی شوند تا امکان شناسایی افراد یا افشای اطلاعات محرمانه از بین برود.

گام بعدی، پایش لحظه‌ای پرامپت‌ها پیش از ارسال به ابزارهای هوش مصنوعی است. در این فرآیند، اگر پرامپت حاوی اطلاعات حساس باشد، باید به‌صورت خودکار مسدود، اصلاح یا به کاربر درباره آن هشدار داده شود. همچنین سازمان‌ها باید استفاده از ابزارهای شخصی و تأییدنشده را محدود کرده و تنها ابزارهای مورد تأیید خود را در اختیار کارکنان قرار دهند. در کنار این اقدامات، اجرای اصل حداقل دسترسی، تفکیک شبکه‌ها و ثبت و پایش مستمر فعالیت‌ها نیز از جمله کنترل‌هایی است که می‌تواند احتمال نشت داده‌ها را به میزان قابل توجهی کاهش دهد.

مسیر دوگانه ایران در هوش مصنوعی

با توجه به نبود آمار و اطلاعات شفاف درباره میزان استفاده کارکنان سازمان‌های ایرانی از ابزارهای هوش مصنوعی، امکان برآورد دقیق ریسک نشت داده از طریق این ابزارها وجود ندارد. در نتیجه، مشخص نیست چه میزان از داده‌های سازمانی در تعامل با سامانه‌های هوش مصنوعی مولد در معرض افشا یا خروج از سازمان قرار می‌گیرند.

با این حال، گزارش‌های بین‌المللی نشان می‌دهد که برخی گروه‌های هکری منتسب به ایران از هوش مصنوعی مولد در عملیات سایبری خود بهره برده‌اند. بر اساس گزارش‌های مایکروسافت و اوپن‌ای‌آی، گروه‌هایی مانند APT42 و Charming Kitten از مدل‌های زبانی بزرگ برای تولید محتوای فیشینگ، نگارش پیام‌های هدفمند و طراحی سناریوهای ارتباطی جعلی استفاده کرده‌اند.

همچنین یکی از گزارش‌های اوپن‌ای‌آی نشان می‌دهد که گروه CyberAv3ngers از چت‌جی‌پی‌تی برای تحقیق درباره پروتکل‌های صنعتی و شناسایی سرویس‌ها و پورت‌های در دسترس اینترنت استفاده کرده است. در برخی گزارش‌های امنیتی نیز به استفاده گروه‌های مرتبط با ایران، از جمله APT35، از ابزارهای هوش مصنوعی برای تولید پیام‌های فریبنده و افزایش اثربخشی حملات فیشینگ هدفمند اشاره شده است.

در مقابل، رویکرد سیاستی ایران در زمینه استفاده سازمان‌ها از ابزارهای هوش مصنوعی هنوز به‌صورت شفاف و جامع تبیین نشده است. با این حال، تجربه سیاست‌گذاری در حوزه اینترنت و خدمات دیجیتال نشان می‌دهد که حکمرانی فناوری در ایران عموماً بر محور کنترل داده، توسعه زیرساخت‌های داخلی و کاهش وابستگی به سرویس‌های خارجی شکل گرفته است. از همین رو، انتظار می‌رود سیاست‌گذاری در حوزه هوش مصنوعی نیز تا حدی از همین الگو پیروی کند.

در سال‌های اخیر نیز اقداماتی برای توسعه زیرساخت‌های بومی هوش مصنوعی انجام شده است. از جمله این اقدامات می‌توان به رونمایی از سکوی ملی هوش مصنوعی و توسعه دستیارهای هوش مصنوعی ویژه دستگاه‌های دولتی اشاره کرد؛ پروژه‌هایی که با هدف گسترش استفاده از ظرفیت‌های هوش مصنوعی در داخل کشور و کاهش اتکا به سرویس‌های خارجی دنبال می‌شوند.