با گسترش استفاده مهاجمان سایبری از مدل‌های زبانی بزرگ (LLM)، حملات «نفوذ به ایمیل سازمانی» (Business Email Compromise یا BEC) وارد مرحله تازه‌ای از پیچیدگی شده‌اند. برخلاف حملات فیشینگ سنتی که معمولاً بر ارسال انبوه پیام‌های مشکوک متکی هستند، حملات BEC بیش از هر چیز بر مهندسی اجتماعی، جعل هویت و جلب اعتماد کارکنان تمرکز دارند؛ موضوعی که شناسایی و مقابله با آن‌ها را برای سازمان‌ها دشوارتر از گذشته کرده است.

 شرکت کسپرسکی از فناوری جدیدی رونمایی کرده که قادر است ایمیل‌های BEC تولیدشده با هوش مصنوعی را پیش از رسیدن به کاربران شناسایی و مسدود کند.

بر اساس اعلام این شرکت، مجرمان سایبری در سال‌های اخیر با بهره‌گیری از هوش مصنوعی مولد، کیفیت حملات مبتنی بر ایمیل را به‌طور چشمگیری افزایش داده‌اند. پیام‌های جعلی که با استفاده از مدل‌های زبانی بزرگ تولید می‌شوند، از نظر نگارشی روان‌تر هستند، خطاهای رایج گذشته را ندارند و لحن آن‌ها شباهت زیادی به مکاتبات واقعی سازمان‌ها پیدا کرده است. در نتیجه، تشخیص این ایمیل‌ها نه‌تنها برای کاربران، بلکه در برخی موارد برای سامانه‌های امنیتی نیز دشوارتر از گذشته شده است.

به گفته کارشناسان، این تحول باعث شده حملات BEC بیش از هر زمان دیگری بر اعتماد کاربران و مهندسی اجتماعی متکی باشند و مهاجمان بتوانند با جعل هویت مدیران، همکاران یا شرکای تجاری، قربانیان را به انجام اقداماتی مانند انتقال وجه، افشای اطلاعات حساس یا تغییر فرایندهای مالی سازمان ترغیب کنند.

حملات BEC؛ تهدیدی که با هوش مصنوعی خطرناک‌تر شده است

در بسیاری از حملات سایبری، هدف اصلی مهاجمان سرقت اطلاعات ورود کاربران یا آلوده‌سازی سامانه‌ها به بدافزار است؛ اما در حملات نفوذ به ایمیل سازمانی (BEC)، تمرکز اصلی بر فریب نیروی انسانی قرار دارد. در این روش، مهاجم با جعل هویت مدیران، شرکای تجاری یا تأمین‌کنندگان، کارکنان سازمان را به انجام اقداماتی مانند انتقال وجه، تغییر اطلاعات حساب بانکی یا افشای اطلاعات حساس ترغیب می‌کند.

متخصصان امنیت سایبری هشدار می‌دهند که استفاده از مدل‌های زبانی بزرگ (LLM) این حملات را به‌مراتب متقاعدکننده‌تر کرده است. پیام‌های تولیدشده با هوش مصنوعی از نظر ساختار، لحن و انتخاب واژگان شباهت زیادی به مکاتبات واقعی سازمان‌ها دارند و همین موضوع احتمال موفقیت حملات مهندسی اجتماعی را به شکل قابل توجهی افزایش داده است. در چنین شرایطی، تنها یک تصمیم اشتباه از سوی یکی از کارکنان می‌تواند در مدت کوتاهی خسارت‌های مالی و عملیاتی سنگینی برای سازمان به همراه داشته باشد.

فناوری جدید کسپرسکی چگونه ایمیل‌های جعلی را تشخیص می‌دهد؟

بر اساس گزارش کسپرسکی، فناوری جدید این شرکت بر پایه تحلیل الگوهای زبانی متن طراحی شده است. از آنجا که مدل‌های زبانی بزرگ (LLM) متن را با پیش‌بینی محتمل‌ترین واژه‌ها و عبارت‌ها تولید می‌کنند، نوشته‌های آن‌ها معمولاً دارای الگوها و ویژگی‌های آماری مشخصی هستند که هرچند برای کاربران طبیعی به نظر می‌رسند، اما با نگارش انسانی تفاوت‌های ظریفی دارند.

این سامانه با ترکیب دو رویکرد، ایمیل‌های مشکوک را شناسایی می‌کند. در گام نخست، عبارت‌ها، ساختارها و الگوهایی را که معمولاً در حملات نفوذ به ایمیل سازمانی (BEC) مشاهده می‌شوند، تحلیل می‌کند. سپس با بررسی نشانه‌های زبانی، احتمال تولید متن توسط هوش مصنوعی را ارزیابی می‌کند.

به گفته کسپرسکی، ترکیب این دو شاخص، امکان شناسایی و متوقف کردن حملات را در مراحل اولیه فراهم می‌کند؛ پیش از آنکه مهاجم بتواند از طریق مهندسی اجتماعی اعتماد کارکنان را جلب کرده یا خسارت مالی و اطلاعاتی به سازمان وارد کند.

پشتیبانی از هشت زبان و عرضه در محصولات سازمانی

در گزارش کسپرسکی آمده است که این قابلیت در حال حاضر امکان شناسایی ایمیل‌های BEC تولیدشده با هوش مصنوعی را در هشت زبان شامل انگلیسی، فرانسوی، آلمانی، ایتالیایی، پرتغالی، روسی، اسپانیایی و ترکی فراهم می‌کند.

این فناوری در راهکار Kaspersky Secure Mail Gateway (KSMG) ارائه شده و کاربران نسخه KSMS Plus پس از به‌روزرسانی به KSMG 3.1 به آن دسترسی خواهند داشت. به گفته کسپرسکی، هدف از توسعه این قابلیت، افزایش توان سازمان‌ها برای شناسایی و متوقف کردن حملات مهندسی اجتماعی مبتنی بر هوش مصنوعی، پیش از رسیدن آن‌ها به صندوق پستی کاربران و ایجاد خسارت مالی یا اطلاعاتی است.

هوش مصنوعی؛ هم ابزار مهاجمان، هم سلاح مدافعان

کارشناسان امنیت سایبری معتقدند هرچه مهاجمان بیشتر از هوش مصنوعی برای اجرای حملات مهندسی اجتماعی بهره بگیرند، سازمان‌ها نیز ناگزیر خواهند بود از ابزارهای مبتنی بر هوش مصنوعی برای شناسایی و مقابله با این تهدیدات استفاده کنند. از این رو، فناوری‌هایی که توانایی تشخیص محتوای تولیدشده توسط مدل‌های زبانی بزرگ (LLM) را دارند، به‌تدریج به یکی از مؤلفه‌های اصلی سامانه‌های امنیت ایمیل و دفاع در برابر حملات BEC تبدیل خواهند شد.

با این حال، متخصصان تأکید می‌کنند که فناوری به‌تنهایی برای مقابله با این تهدیدها کافی نیست. آموزش مستمر کارکنان، اجرای فرآیندهای تأیید چندمرحله‌ای برای تراکنش‌های مالی، راستی‌آزمایی درخواست‌های حساس از طریق کانال‌های ارتباطی مستقل و بازبینی دقیق تغییرات مربوط به حساب‌های بانکی یا پرداخت‌ها، همچنان مؤثرترین راهکارها برای کاهش ریسک حملات نفوذ به ایمیل سازمانی (BEC) محسوب می‌شوند. به اعتقاد کارشناسان، ترکیب هوش مصنوعی با آموزش کاربران و کنترل‌های امنیتی چندلایه، بهترین راهبرد برای مقابله با نسل جدید حملات مهندسی اجتماعی است.