صادق انصاری: نمیتوان امنیت سایبری را بهطور کامل به ایجنتهای هوش مصنوعی سپرد
گفتوگو با صادق انصاری، مدیر امنیت و فناوری اطلاعات شرکت ملی انفورماتیک، درباره نقش هوش مصنوعی در امنیت سایبری، میزان اختیار ایجنتهای AI، نظارت انسان و مدلهای هوش مصنوعی داخلی.
گسترش استفاده از هوش مصنوعی در سازمانها، همزمان با ایجاد فرصتهای جدید برای افزایش توان دفاع سایبری، پرسشهایی درباره میزان اختیار این فناوری و ریسک سپردن تصمیمهای امنیتی به ایجنتهای هوش مصنوعی ایجاد کرده است. در شرایطی که حجم لاگها و رویدادهای امنیتی روزبهروز افزایش پیدا میکند، استفاده از AI برای تحلیل دادهها و شناسایی تهدیدات میتواند به یکی از الزامات امنیت سایبری تبدیل شود؛ با این حال، میزان اختیار این فناوری باید متناسب با سطح ریسک محیط عملیاتی تعیین شود.
در همین رابطه، صادق انصاری، مدیر امنیت و فناوری اطلاعات شرکت ملی انفورماتیک، در گفتوگو با 24نیوز به بررسی نقش هوش مصنوعی در امنیت سایبری، سطح بلوغ ایجنتهای AI، ضرورت حضور انسان در تصمیمهای پرریسک، محرمانگی دادهها و حرکت سازمانها به سمت مدلهای هوش مصنوعی داخلی پرداخته است.
با توجه به گسترش استفاده از هوش مصنوعی در سازمانها، چه سطحی از اختیار را میتوان به AI در حوزه امنیت سایبری داد؟
این موضوع در حوزههای مختلف میتواند متفاوت باشد. اگر بخواهیم اقدامات هوش مصنوعی را دستهبندی کنیم، زمانی که AI در حد بررسی، تحلیل و ارائه پیشنهاد فعالیت میکند، ریسک استفاده از آن چندان زیاد نیست؛ اما زمانی که از مرحله تحلیل و پیشنهاد به سمت اقدام عملیاتی حرکت میکنیم، طبیعتاً ریسک افزایش پیدا میکند.
به نظر من، هوش مصنوعی هنوز به سطحی از بلوغ نرسیده است که بتواند بهصورت مستقل در یک سازمان یا محیط عملیاتی، اقدامات حساس انجام دهد. بنابراین، در محیطهای پرریسک و عملیاتی باید عامل انسانی در چرخه تصمیمگیری حضور داشته باشد و اقدام نهایی با تأیید انسان انجام شود.
آیا در شرایط فعلی میتوان امنیت سایبری یک سازمان را بهطور کامل به یک ایجنت هوش مصنوعی سپرد؟
به نظر من، هنوز برای چنین تصمیمی زود است. هوش مصنوعی با سرعت زیادی در حال رشد است و توانمندیهای آن مرتب تغییر میکند. بنابراین، ارزیابی ما از قابلیتها و ریسکهای AI نیز باید تطبیقی باشد و بهصورت مستمر بهروزرسانی شود.
ممکن است ارزیابیای که امروز از تواناییهای هوش مصنوعی داریم، یک یا دو ماه دیگر دقیق نباشد. بنابراین، همزمان با رشد این فناوری، چارچوبهای ارزیابی و کنترل آن نیز باید بهروزرسانی شوند.
هوش مصنوعی در حال حاضر در کدام بخشهای امنیت سایبری به بلوغ بیشتری رسیده است؟
در حال حاضر، به نظر میرسد هوش مصنوعی در برخی مراحل دفاع سایبری، بهویژه تشخیص حملات، تحلیل جزئیات و بررسی حجم بالای لاگها و رویدادهای امنیتی، به بلوغ قابل قبولی رسیده است.
امروز حجم لاگها و ایونتهایی که روزانه در سازمانها تولید میشود، بسیار زیاد است و دیگر عملیات دستی یا انسانی نمیتواند پاسخگوی این حجم از اطلاعات باشد. بنابراین، استفاده از AI در بخش دفاع سایبری به یک ضرورت تبدیل میشود.
آیا این به معنای آن است که سازمانها باید اجازه اقدام مستقیم به هوش مصنوعی بدهند؟
نه، لزوماً؛ باید میان «تحلیل و تشخیص» و «اقدام» تفاوت قائل شویم. در جایی که هوش مصنوعی تنها اطلاعات را تحلیل میکند و پیشنهاد میدهد، سطح ریسک پایینتر است. اما زمانی که قرار است AI اقدامی را در محیط عملیاتی انجام دهد، باید سطح ریسک آن اقدام بررسی شود.
برای مثال، اگر یک ایجنت هوش مصنوعی بتواند یک حساب کاربری را غیرفعال کند و این اقدام باعث شود یک سرویس حیاتی از دسترس خارج شود، ریسک بسیار بالاست. در چنین شرایطی باید اختیار AI محدود شود و انسان حتماً در حلقه تصمیمگیری حضور داشته باشد. در مقابل، در محیطهایی که ریسک پایینتری دارند، میتوان سطح اختیار بیشتری برای هوش مصنوعی در نظر گرفت.
بنابراین میتوان گفت میزان اعتماد به هوش مصنوعی باید بر اساس سطح ریسک تعیین شود؟
دقیقاً؛ به نظر من نمیتوان برای تمام سازمانها و محیطها یک نسخه واحد در نظر گرفت. میزان اعتماد و سطح دسترسی هوش مصنوعی باید متناسب با ریسک محیط عملیاتی تعیین شود.
آیا سازمانها در ایران به سمت استفاده از مدلهای هوش مصنوعی داخلی در حوزه امنیت سایبری حرکت کردهاند؟
سازمانها در حال حرکت به این سمت هستند. یکی از مسیرهایی که میتواند مورد توجه قرار گیرد، استفاده از مدلهای محلی و داخلی است تا امکان پردازش دادههای سازمانی در یک محیط کنترلشده فراهم شود.
این مدلها میتوانند با استفاده از دادههای موجود در سازمان و تا حدی که الزامات محرمانگی اجازه میدهد، آموزش ببینند و از این ظرفیت برای تشخیص و تحلیل حملات سایبری استفاده شود. به نظر من، با توجه به حساسیت دادههای امنیتی، این مسیر اهمیت زیادی خواهد داشت.
