۴۰ درصد سازمانها توان ردیابی فعالیت عاملهای هوش مصنوعی را ندارند
گزارش جدید شرکت پالوالتو نتورکس نشان میدهد ۴۰ درصد سازمانها نمیتوانند اقدامات عاملهای هوش مصنوعی را بازسازی و ردیابی کنند؛ موضوعی که شناسایی منشأ خطاها و رسیدگی به حوادث امنیتی را دشوار میکند.
گزارش «وضعیت امنیت ابری ۲۰۲۶» شرکت پالوالتو نتورکس (Palo Alto Networks) حاکی از آن است که ۹۹ درصد سازمانها از عاملهای هوش مصنوعی برای انجام فعالیتهای مستقل یا نیمهمستقل در فرایند توسعه نرمافزار استفاده میکنند. در همین حال، ۸۲ درصد سازمانها اعلام کردهاند که توسعه مبتنی بر هوش مصنوعی، حجم بهروزرسانیهای زیرساخت ابری آنها را افزایش داده است.
این گزارش نشان میدهد سرعت بالای توسعه مبتنی بر هوش مصنوعی، فاصله میان انتشار نرمافزار و کنترلهای امنیتی را افزایش داده است. در شرایطی که عاملهای هوش مصنوعی به کدها و محیطهای عملیاتی دسترسی پیدا میکنند، بسیاری از سازمانها هنوز سازوکار مناسبی برای نظارت بر فعالیت آنها ندارند.
گسترش دسترسی هوش مصنوعی به زیرساختهای عملیاتی
بر اساس یافتههای پالوالتو نتورکس، نزدیک به سهچهارم سازمانها به عاملهای هوش مصنوعی اجازه میدهند کدها، تنظیمات فرایند توسعه و تحویل نرمافزار یا محیطهای عملیاتی را تغییر دهند. این سطح از دسترسی در کنار سرعت بالای انتشار نرمافزار، احتمال ورود آسیبپذیریها و تنظیمات نادرست به زیرساختهای ابری را افزایش میدهد.
تنها ۳۷ درصد سازمانها بازبینی دستی امنیتی را در فرایند توسعه اجرا میکنند و ۳۳ درصد آنها توانایی ردیابی مسیر کد را از زمان ثبت تغییرات تا اجرای آن در محیط ابری دارند.
آمارهای این گزارش نشان میدهد در ۹۰ روز گذشته، بهطور میانگین ۱۹ درصد آسیبپذیریهای برنامههای کاربردی با شدت بالا و بحرانی به محیط عملیاتی راه یافتهاند. همچنین رفع و استقرار اصلاحیههای امنیتی پس از شناسایی مشکل، بهطور میانگین ۱۸.۴ روز زمان میبرد.
فشار برای انتشار سریع محصولات نرمافزاری، مهمترین مانع رفع مشکلات امنیتی پیش از استقرار در ۳۹ درصد سازمانهاست. ۳۵ درصد سازمانها نیز نگراناند که کنترلهای امنیتی روند توسعه را کند کند.
ثبت فعالیت عاملهای هوش مصنوعی با هویت توسعهدهندگان
یکی از چالشهای مهم مطرحشده در این گزارش، دشواری تشخیص فعالیت انسان از اقدامات عاملهای هوش مصنوعی است. ۵۳ درصد مهندسان، فعالیت این عاملها را با هویت شخصی یا توکنهای دسترسی خود ثبت میکنند. چنین رویکردی در زمان بروز حادثه، شناسایی عامل اصلی انجام یک فعالیت یا تغییر را دشوار میکند.
این مشکل در صنعت مالی ابعاد جدیتری دارد؛ بهطوریکه ۴۶ درصد سازمانهای فعال در این حوزه نمیتوانند اقدامات عاملهای هوش مصنوعی را بازسازی کنند. این میزان بالاترین رقم در میان صنایع بررسیشده است.
از سوی دیگر، ۴۳ درصد سازمانها طی ۱۲ ماه گذشته با فعالیت عاملهای هوش مصنوعی یا گردشکارهای خودکاری مواجه شدهاند که بدون تأیید یا نظارت امنیتی فعالیت میکردند.
یافتههای گزارش همچنین نشان میدهد سازمانها برای لغو یا تعویض اعتبارنامههای توسعهدهندگان، کلیدهای API و اطلاعات محرمانه خطوط انتقال نرمافزار که در معرض خطر قرار گرفتهاند، بهطور میانگین ۲.۵ روز زمان نیاز دارند.
ضعف سازمانها در حفاظت از دادههای حساس
مدیریت جریان دادهها در سامانههای مبتنی بر هوش مصنوعی، یکی دیگر از نقاط ضعف زیرساختهای امنیتی سازمانهاست. طبق این گزارش، ۷۰ درصد سازمانها نمیتوانند مسیر انتقال دادههای حساس را در سامانهها و گردشکارهای هوش مصنوعی ترسیم کنند.
همچنین تنها ۹ درصد سازمانها قابلیت شناسایی و طبقهبندی خودکار فعالیتهای مدیریتنشده هوش مصنوعی را در محیطهای ابری دارند.
این در حالی است که ۹۷ درصد سازمانها دستکم تا حدی به توانایی خود برای اجرای راهبرد امنیتی و حفاظت از زنجیره تأمین و برنامههای کاربردی هوش مصنوعی اطمینان دارند. با وجود این، تنها ۳۶ درصد آنها رفتار عاملهای هوش مصنوعی را در محیط عملیاتی پایش میکنند و ۳۰ درصد توانایی شناسایی حملات تزریق پرامپت را دارند.
هشدار درباره تهدید هوش مصنوعی برای زیرساختهای حیاتی
گزارش پالوالتو نتورکس به افزایش توانایی مدلهای پیشرفته هوش مصنوعی در کشف آسیبپذیریهای روز صفر، شناسایی نقصهای منطقی و تولید اکسپلویتهای عملیاتی نیز اشاره میکند. این قابلیتها میتوانند زمان لازم برای شناسایی و بهرهبرداری از ضعفهای امنیتی سامانههای پیچیده را کاهش دهند و فشار بیشتری بر تیمهای امنیت سایبری وارد کنند.
بر اساس نتایج این بررسی، ۶۵ درصد سازمانها قابلیتهای هوش مصنوعی پیشرفته را طی ۱۲ تا ۱۸ ماه آینده تهدیدی جدی یا بسیار جدی برای زیرساختهای حیاتی و نظامهای مالی جهان ارزیابی میکنند.
براساس این گزارش ضعف در یکپارچهسازی سامانههای نظارتی از مشکلات اساسی سازمانهاست. تنها ۱۹ درصد سازمانها از سازوکار یکپارچه جمعآوری دادههای امنیتی و مدیریت گردشکار در محیطهای کدنویسی، زیرساخت ابری، مدیریت هویت و محیط عملیاتی استفاده میکنند.
این آمار نشان میدهد با افزایش نقش عاملهای هوش مصنوعی در توسعه و مدیریت زیرساختهای دیجیتال، ایجاد سازوکارهای دقیق برای ثبت فعالیتها، مدیریت سطح دسترسی، پایش رفتار و شناسایی تهدیدها به یکی از ضرورتهای امنیت سایبری سازمانها تبدیل شده است.