تصمیم نهایی در امنیت سایبری هنوز با انسان است، نه ماشین

در سال‌های اخیر، گسترش هوش مصنوعی چهره امنیت سایبری را به‌طور بنیادین دگرگون کرده است؛ از طراحی سناریوهای پیچیده حمله گرفته تا تولید محتوای جعلی و اجرای کلاهبرداری‌های صوتی و تصویری که تشخیص آن‌ها برای کاربران عادی و حتی متخصصان دشوار شده است. در چنین فضایی که مهاجمان و مدافعان هر دو از ابزارهای هوشمند بهره می‌گیرند، پرسش‌های مهمی درباره آینده تهدیدات، میزان اتکاپذیری مدل‌های هوش مصنوعی و نقش انسان در تصمیم‌گیری‌های حساس مطرح می‌شود.

در گفت‌وگو با یوسف سنایی،کارشناس امنیت هوش مصنوعی، با نگاهی تحلیلی به این تحولات، از چالش‌های دیپ‌فیک و خودکارسازی حملات تا رقابت تسلیحاتی در فضای سایبری و ضرورت حضور پررنگ متخصصان انسانی سخن گفته شد. این مصاحبه، تصویری روشن از وضعیت کنونی و مسیر پیش‌روی امنیت سایبری در عصر هوش مصنوعی ارائه می‌کند.

هوش مصنوعی چگونه فرآیند طراحی سناریوی حمله سایبری را نسبت به گذشته تغییر داده است؟

در گذشته، زمانی که طراحی سناریوی حمله صرفاً توسط انسان انجام می‌شد، مهاجم بر اساس دانش، تجربه و مجموعه‌ای محدود از داده‌های در دسترس خود عمل می‌کرد. در چنین شرایطی، کیفیت و دقت حملات وابسته به توانایی‌های فردی طراح حمله و میزان اطلاعاتی بود که او می‌توانست به آن دسترسی پیدا کند. این موضوع باعث می‌شد فرآیند طراحی سناریوهای حمله زمان‌بر، وابسته به افراد و محدود به دامنه مشخصی از دانش و تجربه باشد.

با ورود هوش مصنوعی، این تصویر به‌طور جدی تغییر کرده است. سامانه‌های مبتنی بر هوش مصنوعی می‌توانند به کتابخانه‌ها، پایگاه‌های داده و منابع اطلاعاتی بسیار گسترده و به‌روز در سطح جهان متصل شوند. آن‌ها قادرند حجم بزرگی از داده‌ها، گزارش‌ها و نمونه‌های حملات گذشته را تحلیل و از میان آن‌ها الگوهای مؤثر و سناریوهای موفق را استخراج کنند. این امکان، طراحی سناریوی حمله را از یک فرآیند صرفاً انسانی و محدود، به یک فرآیند داده‌محور، سریع و بسیار گسترده تبدیل کرده است.

هوش مصنوعی علاوه بر سرعت، چه تأثیری بر دقت و موفقیت حملات سایبری مانند فیشینگ، بدافزار و DDoS گذاشته است؟

هوش مصنوعی نه‌تنها سرعت طراحی و اجرای حملات را افزایش داده، بلکه دقت و کارایی آن‌ها را هم به‌طور محسوسی بالا برده است. با بهره‌گیری از داده‌های به‌روز و تحلیل مستمر رفتار کاربران و سامانه‌ها، حملات می‌توانند به‌صورت هدفمند و شخصی‌سازی‌شده طراحی شوند. برای مثال، در حملات فیشینگ، محتوای پیام‌ها می‌تواند بر اساس ویژگی‌های فردی، علایق و الگوهای رفتاری قربانی تنظیم شود تا احتمال فریب‌خوردن او بیشتر شود.

همچنین در حملات بدافزاری و DDoS، هوش مصنوعی می‌تواند الگوهای بهینه برای عبور از مکانیزم‌های دفاعی، انتخاب بهترین زمان حمله و نوع ترافیک مخرب را تعیین کند. نتیجه این است که هم احتمال شناسایی حمله توسط سامانه‌های سنتی کاهش می‌یابد و هم شانس موفقیت مهاجم افزایش پیدا می‌کند. این روند تنها به حوزه حملات سایبری محدود نیست و در حوزه‌های نظامی، اجتماعی و سایر عرصه‌های امنیتی نیز می‌تواند بر شکل‌گیری تهدیدات و تغییر وضعیت امنیتی تأثیرگذار باشد.

با توجه به پیشرفت‌های فعلی، آیا می‌توان انتظار حملات سایبری کاملاً خودکار و هدایت‌شونده توسط هوش مصنوعی را داشت؟

تجربه در اغلب حوزه‌ها نشان داده است که واگذاری کامل و صددرصدی یک فرآیند به ماشین، هرچند می‌تواند نقش انسان را به میزان قابل توجهی کاهش دهد، اما به معنای حذف کامل هوش انسانی نیست. در حوزه امنیت سایبری نیز این قاعده برقرار است. هوش مصنوعی می‌تواند بسیاری از مراحل حمله را خودکار کند؛ از جمع‌آوری اطلاعات گرفته تا تحلیل آسیب‌پذیری‌ها و انتخاب سناریوی مناسب.

با این حال، دست‌کم در مقطع فعلی، رسیدن به حملات کاملاً مستقل و بدون نقش انسان در عمل بسیار دشوار است. همچنان برای انتخاب اهداف، تعیین راهبرد کلی، ارزیابی ریسک‌ها و تصمیم‌گیری درباره ادامه یا توقف حمله، نیاز به حضور انسانی وجود دارد. بنابراین، امکان خودکار شدن بخش بزرگی از حمله وجود دارد، اما حذف کامل دخالت انسان واقع‌بینانه نیست.

چرا با وجود توان بالای ماشین‌ها، هوش انسانی همچنان می‌تواند در بسیاری موارد بر هوش مصنوعی غلبه کند؟

اگر تمام چرخه حمله صرفاً بر عهده ماشین گذاشته شود، باز هم هوش طبیعی، یعنی انسان، می‌تواند در بسیاری از موارد بر آن غلبه کند. مثال حوزه شطرنج در این زمینه بسیار گویاست. سال‌ها است که ماشین‌ها در محاسبه و بررسی تعداد بسیار زیادی حالت بر انسان برتری دارند و در بسیاری از مسابقات، سیستم‌های کامپیوتری موفق به شکست قهرمانان شطرنج شده‌اند.

با این حال، در ترکیب خلاقیت انسانی و توان محاسباتی ماشین، همچنان شاهد نتایج متفاوت و گاه برتری انسان هستیم. انسان قادر است در شرایط پیش‌بینی‌نشده، با تکیه بر شهود، تجربه و درک سیستمی از موقعیت، تصمیم‌هایی بگیرد که لزوماً از دل محاسبات صرف بیرون نمی‌آید. در امنیت سایبری نیز وضعیتی مشابه وجود دارد؛ ماشین در تحلیل داده‌ها و اجرای الگوریتم‌ها بسیار قدرتمند است، اما درک کلی از پیامدها، زمینه‌ها و ظرایف انسانی هنوز عمدتاً در اختیار انسان است.

فناوری دیپ‌فیک چگونه می‌تواند اعتبار اطلاعات و فرآیندهای احراز هویت دیجیتال را به چالش بکشد؟

فناوری دیپ‌فیک تنها محدود به تولید تصاویر و ویدئوهای سرگرم‌کننده یا جعلی ساده نیست، بلکه در بسیاری از حوزه‌های حساس، به‌ویژه در زمینه‌هایی مانند امضای دیجیتال، احراز هویت و هویت دیجیتال، به یکی از چالش‌های جدی تبدیل شده است. با استفاده از دیپ‌فیک، می‌توان چهره، صدای یا حتی رفتار ظاهری یک فرد را به‌گونه‌ای شبیه‌سازی کرد که برای بسیاری از ناظران، کاملاً واقعی به نظر برسد.

این موضوع زمانی که پای سامانه‌های احراز هویت مبتنی بر تصویر، ویدئو یا صدا در میان باشد، خطرناک‌تر می‌شود. به عنوان مثال، اگر سیستم بانکی یا سازمانی، تأیید هویت را بر اساس چهره یا صدا انجام دهد، دیپ‌فیک می‌تواند این فرآیند را دور بزند و فردی غیرمجاز را به جای شخص واقعی جا بزند. در سطح اعتبار اطلاعات نیز انتشار گسترده محتوای جعلی اما به ظاهر معتبر، اعتماد عمومی به اسناد، تصاویر و ویدئوهای منتشرشده را تضعیف می‌کند و تشخیص واقعیت از جعل را دشوار می‌سازد.

برای مقابله با خطرات دیپ‌فیک و جلوگیری از سوءاستفاده از آن چه راهکارهای فنی و غیرفنی می‌توان به‌کار گرفت؟

در سطح فنی، چند دسته راهکار قابل طرح است. نخست، توسعه سامانه‌های تشخیص محتوای جعلی مبتنی بر هوش مصنوعی که بتوانند الگوهای غیرطبیعی در تصاویر، ویدئوها و صداها را شناسایی کنند. دوم، استفاده از امضای دیجیتال و واترمارکینگ مطمئن برای محتوای معتبر، به‌گونه‌ای که اصالت آن قابل بررسی و تأیید باشد. سوم، بهره‌گیری از متادیتای قابل اعتماد و ثبت زنجیره تولید و انتشار محتوا برای کمک به راستی‌آزمایی.

در سطح غیرفنی نیز اقداماتی مانند ارتقای سواد رسانه‌ای کاربران برای تشخیص محتواهای مشکوک، آموزش عمومی درباره وجود و توانمندی دیپ‌فیک، تدوین قوانین و مقررات روشن برای مسئولیت‌پذیری تولیدکنندگان و منتشرکنندگان محتوا و تعریف رویه‌های سازمانی برای راستی‌آزمایی اطلاعات حساس قبل از تصمیم‌گیری، ضروری است. در مجموع، بدون ترکیب این دو دسته اقدامات، مقابله مؤثر با دیپ‌فیک دشوار خواهد بود.

هوش مصنوعی چگونه زمینه را برای اجرای کلاهبرداری‌های صوتی و تصویری پیچیده و واقعی‌تر فراهم کرده است؟

هوش مصنوعی در حوزه‌هایی مانند پردازش تصویر و تشخیص و تولید صدا، یک دریچه جدید به روی مهاجمان باز کرده است. امروز با استفاده از این فناوری می‌توان صدای یک فرد را با دقت بسیار بالا شبیه‌سازی کرد و از این طریق کلاهبرداری‌های صوتی پیچیده‌ای انجام داد؛ برای مثال، تماس تلفنی جعلی از طرف یک مدیر سازمان یا یکی از اعضای خانواده قربانی.

به همین ترتیب، امکان تولید تصاویر و ویدئوهای جعلی اما بسیار واقعی فراهم شده است. این محتواها می‌توانند در بستر شبکه‌های اجتماعی، پیام‌رسان‌ها یا حتی سیستم‌های ویدئوکنفرانس مورد سوءاستفاده قرار گیرند. علاوه بر این، ساخت پروفایل‌های کامل اما جعلی در شبکه‌های اجتماعی و اجرای حملات مهندسی اجتماعی هدفمند، به کمک هوش مصنوعی چندان دشوار نیست و این موضوع دامنه و عمق کلاهبرداری‌ها را نسبت به گذشته به‌طور قابل توجهی افزایش داده است.

تفاوت اصلی کلاهبرداری‌های سایبری مبتنی بر هوش مصنوعی با روش‌های سنتی در چیست و در چه شرایطی استفاده از این فناوری دیگر قابل قبول نیست؟

تفاوت اصلی در چند محور است. نخست، مقیاس و حجم حملات است؛ هوش مصنوعی با خودکارسازی بسیاری از مراحل، به مهاجم اجازه می‌دهد تعداد بسیار بیشتری از افراد را در مدت زمان کوتاه هدف قرار دهد. دوم، شخصی‌سازی و واقعی بودن ظاهر حملات است؛ صدا، تصویر و محتوای تولید شده توسط هوش مصنوعی به اندازه‌ای طبیعی است که قربانی به‌سختی می‌تواند جعلی بودن آن را تشخیص دهد. سوم، هزینه و زمان لازم برای طراحی و اجرای حمله برای مهاجم به شدت کاهش پیدا می‌کند.

با این حال، استفاده از هوش مصنوعی تا زمانی قابل قبول است که منجر به به خطر افتادن جان انسان‌ها، نابسامانی جدی اقتصادی برای افراد یا ایجاد آسیب‌های عمیق اجتماعی نشود. در نقطه‌ای که این تهدیدها جدی می‌شوند، جامعه جهانی، قانون‌گذاران و نظام‌های نظارتی باید وارد عمل شوند، احساس خطر کنند و با تدوین قوانین، توسعه ابزارهای دفاعی و ارتقای آگاهی عمومی، از سوءاستفاده‌های مخرب جلوگیری کنند. هر فناوری، از جمله هوش مصنوعی، می‌تواند هم به رشد و ارتقای کیفیت زندگی بشر کمک کند و هم برای کلاهبرداری و نقض حقوق افراد به‌کار رود؛ جهت‌گیری آن به تصمیم و خرد جمعی بشر وابسته است.

آیا استقرار گسترده سامانه‌های هوش مصنوعی در سازمان‌ها و زیرساخت‌های حیاتی، به‌طور ذاتی سطح حمله و نقاط ضعف جدید ایجاد می‌کند؟

در پاسخ به این سؤال نمی‌توان به صورت مطلق گفت که به‌کارگیری هوش مصنوعی حتماً سطح حمله را افزایش می‌دهد، اما یک واقعیت مهم وجود دارد: هر سامانه، اپلیکیشن یا سیستم جدیدی که به محیط موجود افزوده می‌شود، به‌طور طبیعی می‌تواند منافذ و آسیب‌پذیری‌های تازه‌ای ایجاد کند. این نکته در مورد سامانه‌های مبتنی بر هوش مصنوعی نیز صادق است و باید آن را پذیرفت.

اما در کنار این واقعیت، باید توجه داشت که اگر هوش مصنوعی به شکل صحیح، آگاهانه و مطابق با اصول امنیتی طراحی و استقرار یابد، می‌تواند نه‌تنها ریسک را افزایش ندهد، بلکه سطح خطر را به میزان قابل توجهی کاهش دهد. بنابراین، مسئله اصلی نحوه طراحی، پیاده‌سازی و مدیریت این سامانه‌ها است، نه صرفاً خودِ استفاده از هوش مصنوعی.

هوش مصنوعی چگونه می‌تواند در تجهیزات دفاعی مانند فایروال‌ها، با تولید لحظه‌ای سیکنیچرهای جدید، سطح خطر حملات را کاهش دهد؟

در حوزه تجهیزات امنیتی مانند فایروال‌ها، به طور سنتی بر اساس تحلیل آسیب‌پذیری‌ها و مطالعات تهاجمی، امضاها و الگوهای مشخصی تولید و روی این تجهیزات اعمال می‌شود تا در برابر حملات شناخته‌شده از سامانه دفاع شود. این فرآیند معمولاً زمان‌بر است و بین کشف حمله جدید و تولید و انتشار امضاهای محافظتی، فاصله زمانی قابل توجهی وجود دارد.

زمانی که این فرآیند با هوش مصنوعی ترکیب می‌شود، تجهیز امنیتی با پشتوانه هوش مصنوعی می‌تواند به صورت لحظه‌ای فرآیند یادگیری را انجام دهد، بر اساس داده‌های جدیدی که دریافت می‌کند، الگوها و امضاهای تازه‌ای تولید کند و عملاً پیش از آنکه برخی حملات به‌طور کامل مستند شوند، نسبت به آن‌ها واکنش نشان دهد. به این ترتیب، هرچند اضافه شدن سامانه‌های مبتنی بر هوش مصنوعی خود به معنای اضافه شدن یک لایه جدید از پیچیدگی و احتمال آسیب‌پذیری است، اما در مجموع و با طراحی صحیح، می‌توان گفت استفاده از هوش مصنوعی در سامانه‌های دفاعی، احتمال موفقیت حملات را نسبت به زمانی که از آن استفاده نمی‌شد، کاهش می‌دهد.

اگر مهاجمان و مدافعان هر دو از هوش مصنوعی استفاده کنند، آینده این «مسابقه تسلیحاتی» در فضای سایبری را چگونه می‌توان توصیف کرد؟

در چنین شرایطی، نوعی تعادل نسبی ایجاد می‌شود. به این معنا که همان‌قدر که قدرت حملات با محاسبات دقیق‌تر، خودکارسازی و استفاده از داده‌های گسترده افزایش پیدا می‌کند، توان دفاع نیز با تحلیل سریع‌تر، کشف الگوهای پیچیده و واکنش هوشمند تقویت می‌شود. به عبارت دیگر، هر دو طرف بازی به ابزارهای قدرتمندتر مجهز می‌شوند و این موضوع مانع از آن می‌شود که تنها یک طرف، به‌طور مطلق بر دیگری برتری پیدا کند.

با این حال، تجربه نشان می‌دهد که مهاجمان معمولاً یک گام از مدافعان جلوتر هستند. دلیل این موضوع آن است که مهاجمان با محدودیت‌های قانونی، سازمانی و اخلاقی کمتری روبه‌رو هستند و می‌توانند سریع‌تر دست به آزمون و خطا بزنند، روش‌های جدید را تجربه کنند و از نقاط ضعف ناشناخته سوءاستفاده کنند. این برتری نسبی، ضرورت هوشمندی و سرعت عمل بیشتر در سمت دفاع را برجسته می‌کند.

سازمان‌ها و دولت‌ها برای افزایش آمادگی در برابر تهدیدات سایبری ناشی از هوش مصنوعی چه تدابیر پیشگیرانه و واکنشی باید اتخاذ کنند؟

سازمان‌ها و دولت‌ها باید با جدیت روی سامانه‌های دفاعی مبتنی بر هوش مصنوعی سرمایه‌گذاری کنند و این سامانه‌ها را به بخش جدایی‌ناپذیر زیرساخت امنیتی خود تبدیل کنند. آموزش و به‌روزرسانی مستمر تیم‌های تخصصی امنیت سایبری نیز ضروری است تا بتوانند از قابلیت‌های این فناوری به‌درستی استفاده کنند و درک درستی از تهدیدات نوظهور داشته باشند.

علاوه بر این، سناریوهای واکنش به حوادث باید با در نظر گرفتن تهدیدات مبتنی بر هوش مصنوعی بازطراحی شوند. حضور فعال در حوزه تنظیم‌گری، استانداردگذاری و همکاری‌های بین‌سازمانی و بین‌المللی نیز اهمیت بسیاری دارد؛ زیرا بسیاری از تهدیدات مبتنی بر هوش مصنوعی مرز نمی‌شناسند و بدون همکاری گسترده، مقابله با آن‌ها دشوار خواهد بود. تنها با چنین رویکردی می‌توان تا حدی از تبدیل شدن این مسابقه به نفع مهاجمان جلوگیری کرد.

در حال حاضر چه چالشی برای اطمینان از اعتمادپذیری خروجی مدل‌های یادگیری ماشین وجود دارد؟

در شرایط فعلی، راه‌حل کاملاً جامع و یکپارچه‌ای که بتوان آن را به تمام حوزه‌ها تعمیم داد و بر اساس آن با قطعیت گفت خروجی یک مدل یادگیری ماشین قابل اعتماد است، وجود ندارد. مدل‌ها بر پایه داده‌هایی که با آن‌ها آموزش دیده‌اند و فرضیاتی که در طراحی‌شان لحاظ شده، عمل می‌کنند و هرگونه نقص، سوگیری یا کمبود در داده‌ها می‌تواند به خروجی‌های نادرست یا منحرف منجر شود.

به همین دلیل، صرف اعتماد به خروجی مدل، بدون بررسی و ارزیابی مستقل، می‌تواند خطرناک باشد. این چالش در حوزه‌هایی که تصمیم‌های حیاتی، مالی، پزشکی یا امنیتی بر پایه خروجی مدل‌ها گرفته می‌شود، اهمیت بیشتری پیدا می‌کند و نیازمند نظارت و کنترل انسانی جدی است.

در نبود یک راه‌حل جامع فنی، چه نقشی بر عهده کارشناسان انسانی در ارزیابی خروجی مدل‌های هوش مصنوعی است؟

نقش متخصصان و کارشناسان حوزه‌های مرتبط در این زمینه بسیار کلیدی است. در واقع این کارشناسان هستند که با توجه به دانش فنی و تجربه خود، می‌توانند تشخیص دهند آیا فرآیندی که مدل طی کرده، در نهایت به اهداف از پیش تعیین‌شده و نقطه بهینه مورد نظر نزدیک شده است یا خیر. آن‌ها باید خروجی مدل را در زمینه واقعی آن تفسیر، محدودیت‌ها را شناسایی و در صورت لزوم، آن را اصلاح یا رد کنند.

به بیان دیگر، در وضعیت کنونی، هنوز نقش انسان و هوش طبیعی در این حوزه بسیار پررنگ است و به مرحله‌ای نرسیده‌ایم که بتوانیم بگوییم ماشین و انسان در سطح برابری در تصمیم‌گیری قرار گرفته‌اند. ماشین در پردازش کارهای تکراری، تحلیل حجم انبوه داده و تسریع محاسبات کمک بزرگی به انسان می‌کند، اما در بخش استنتاج نهایی و تصمیم‌گیری درباره این‌که آیا خروجی مدل، مناسب‌ترین و بهینه‌ترین راه‌حل است یا نه، همچنان این انسان است که حرف آخر را می‌زند.