در حال حاضر مهاجمان می‌توانند با صرف زمان و هزینه کمتر، پیام‌هایی متقاعدکننده‌تر تولید کنند و اعتماد افراد را در ارتباطات روزمره، تعاملات کاری و تراکنش‌های مالی هدف بگیرند. تغییر اصلی در نسل جدید فیشینگ، دشوارتر شدن تشخیص محتوای جعلی از واقعی است؛ تغییری که روش‌های مقابله با کلاهبرداری‌های سایبری را نیز با چالش‌های تازه‌ای روبه‌رو می‌کند.

هوش مصنوعی مولد به ابزار تازه‌ای برای مجرمان سایبری تبدیل شده است؛ ابزاری که می‌تواند سرعت تولید محتوای فریبنده را افزایش دهد و کیفیت پیام‌هایی را که برای جلب اعتماد مخاطبان طراحی می‌شوند، بهبود ببخشد. در گذشته، برخی پیام‌های جعلی به دلیل نگارش نامناسب، عبارت‌های نامأنوس یا ناهماهنگی در جزئیات، توجه مخاطب را جلب می‌کردند. اکنون ابزارهای هوش مصنوعی می‌توانند متن‌هایی تولید کنند که از نظر ساختار، لحن و انتخاب واژه‌ها به مکاتبات حرفه‌ای و ارتباطات روزمره شباهت زیادی دارند.

این تغییر، فیشینگ را از یک تلاش آشکار برای فریب مخاطب به سناریویی پیچیده‌تر تبدیل می‌کند که در آن مهاجم می‌کوشد ارتباطی باورپذیر بسازد. پیام ممکن است با لحنی رسمی از سوی یک سازمان ارسال شود، با ادبیات معمول یک همکار نوشته شده باشد یا در قالب درخواستی دوستانه از طرف فردی آشنا ظاهر شود. در چنین شرایطی، کیفیت نگارش دیگر معیار مطمئنی برای تشخیص اصالت پیام نیست.

بر اساس هشدار اداره تحقیقات فدرال آمریکا (FBI) در مه ۲۰۲۴، مجرمان سایبری از ابزارهای عمومی و اختصاصی هوش مصنوعی برای اجرای حملات هدفمندتر استفاده می‌کنند. این نهاد تأکید کرده است که هوش مصنوعی می‌تواند پیام‌های فریبنده را با دستور زبان و املای درست و متناسب با مخاطب تولید کند و در کنار آن، امکان جعل صدا و تصویر افراد را نیز گسترش دهد.

بنابراین، خطر اصلی در نسل جدید فیشینگ را باید در ترکیب چند قابلیت جست‌وجو کرد: تولید متن طبیعی، استفاده از اطلاعات شخصی، تقلید هویت افراد قابل اعتماد و ساخت محتوایی که با موقعیت واقعی مخاطب هماهنگ به نظر می‌رسد.

پیام‌های طبیعی‌تر؛ کاهش نشانه‌های آشکار فریب

یکی از مهم‌ترین تغییرات در فیشینگ مبتنی بر هوش مصنوعی، افزایش کیفیت زبانی پیام‌هاست. مدل‌های زبانی می‌توانند متن را با توجه به زبان، لحن و موقعیت ارتباطی بازنویسی کنند. نتیجه، پیامی است که ممکن است مانند یک مکاتبه معمولی کاری، اطلاع‌رسانی سازمانی یا درخواست متداول از سوی یک فرد آشنا به نظر برسد.

اهمیت این موضوع زمانی بیشتر می‌شود که مخاطب در طول روز با تعداد زیادی پیام، ایمیل و اعلان روبه‌روست. در چنین فضایی، افراد برای ارزیابی سریع پیام‌ها از نشانه‌های ظاهری کمک می‌گیرند؛ از جمله لحن نوشته، کیفیت نگارش و میزان هماهنگی متن با موقعیت. وقتی مهاجم بتواند این نشانه‌ها را تقلید کند، بخشی از سازوکار طبیعی تشخیص خطر با اختلال روبه‌رو می‌شود.

برای مثال، تصور کنید کارمندی پیامی دریافت می‌کند که درباره اصلاح یک سند کاری یا تأیید یک پرداخت صحبت می‌کند. متن پیام دقیق، محترمانه و متناسب با فضای اداری است و از نظر نگارش نیز ایرادی ندارد. اگر درخواست با موضوعی واقعی در محیط کار ارتباط داشته باشد، ممکن است مخاطب پیش از بررسی هویت فرستنده، آن را معتبر تلقی کند.

در این وضعیت، پیام جعلی برای جلب اعتماد به اشتباه‌های آشکار نیاز ندارد. حتی ممکن است از نظر زبانی با مکاتبات واقعی تفاوت محسوسی نداشته باشد. این ویژگی باعث می‌شود بررسی ظاهر پیام به‌تنهایی برای ارزیابی امنیت آن کافی نباشد.

شخصی‌سازی با هوش مصنوعی؛ وقتی پیام جعلی درباره خود مخاطب است

شخصی‌سازی یکی از مهم‌ترین عوامل افزایش قدرت اقناع در حملات جدید فیشینگ است. هوش مصنوعی می‌تواند اطلاعات موجود درباره یک فرد یا سازمان را در تولید محتوایی متناسب با شرایط آن‌ها به کار بگیرد. اطلاعات مربوط به شغل، مسئولیت سازمانی، ارتباطات حرفه‌ای، علایق عمومی و فعالیت‌های آنلاین، در صورت دسترسی مهاجم، ممکن است به شکل‌گیری پیام‌هایی دقیق‌تر کمک کنند.

این اطلاعات می‌توانند از منابع عمومی، محتوای منتشرشده در شبکه‌های اجتماعی یا داده‌هایی که پیش‌تر در اختیار مجرمان قرار گرفته‌اند، به دست آمده باشند. هوش مصنوعی با تحلیل این داده‌ها می‌تواند به مهاجم کمک کند پیامی بسازد که با موقعیت مخاطب هم‌خوانی داشته باشد و احتمال پاسخ‌گویی او را افزایش دهد.

برای مثال، کارمندی که در یک شبکه اجتماعی درباره تغییر سمت شغلی خود نوشته است، ممکن است با پیامی مرتبط با مسئولیت جدیدش روبه‌رو شود. مدیر یک شرکت نیز ممکن است درخواستی دریافت کند که به جلسه‌ای واقعی، یکی از همکارانش یا موضوعی مطرح‌شده در مکاتبات اخیر اشاره دارد. در هر دو حالت، اطلاعات واقعی در خدمت ساخت روایتی جعلی قرار می‌گیرند.

گزارش ارزیابی تهدیدهای جرایم سازمان‌یافته اینترنتی یوروپل در سال ۲۰۲۵ نیز به گسترش استفاده از هوش مصنوعی مولد در حملات مهندسی اجتماعی اشاره می‌کند. بر اساس این گزارش، مجرمان می‌توانند پیام‌های کلاهبردارانه را با جزئیات شخصی و زمینه فرهنگی قربانیان هماهنگ کنند.

مزیت این روش برای مهاجم، ایجاد حس آشنایی و ارتباط مستقیم است. مخاطب ممکن است تصور کند فرستنده او را می‌شناسد، از شرایط کاری‌اش اطلاع دارد یا به اطلاعاتی دسترسی دارد که تنها افراد مرتبط با او از آن باخبرند. همین برداشت می‌تواند احتمال اعتماد قربانی به پیام را افزایش دهد.

با این حال، وجود جزئیات واقعی در یک پیام به معنای معتبر بودن فرستنده نیست. گاهی اطلاعات صحیح درباره فرد، تنها پوششی برای پنهان کردن یک درخواست جعلی است.

جعل هویت با هوش مصنوعی؛ سواستفاده از اعتماد به افراد آشنا

نسل جدید فیشینگ به جعل متن محدود نمی‌شود. هوش مصنوعی امکان تقلید از ویژگی‌های صوتی و تصویری افراد را نیز گسترش داده و به مجرمان اجازه می‌دهد سناریوهایی طراحی کنند که در آن‌ها هویت یک فرد قابل اعتماد به شکل متقاعدکننده‌ای بازنمایی می‌شود.

در یک محیط کاری، اعتماد به مدیر، همکار یا شریک تجاری می‌تواند بر نحوه ارزیابی درخواست‌ها تأثیر بگذارد. اگر پیامی با نام و تصویر فردی شناخته‌شده ارسال شود، احتمال دارد مخاطب آن را در چارچوب ارتباطات معمول خود تفسیر کند. هنگامی که همین جعل هویت با اطلاعات واقعی و محتوای متناسب با شرایط مخاطب همراه شود، تشخیص فریب پیچیده‌تر خواهد شد.

در ماه مه ۲۰۲۵، اف‌بی‌آی درباره کارزاری هشدار داد که در آن مهاجمان با استفاده از پیام‌های متنی و پیام‌های صوتی تولیدشده با هوش مصنوعی، خود را به‌جای مقام‌های ارشد آمریکایی معرفی می‌کردند. هدف این ارتباطات، جلب اعتماد مخاطبان و زمینه‌سازی برای دسترسی به حساب‌های شخصی بود.

این امر نشان می‌دهد جعل هویت می‌تواند فراتر از ساخت یک حساب کاربری با نام فردی شناخته‌شده پیش برود. مهاجم می‌تواند از صدا، تصویر عمومی، اطلاعات شغلی و جزئیات ارتباطات افراد برای ساخت روایتی منسجم استفاده کند. در چنین شرایطی، اعتماد مخاطب به هویت ظاهری فرستنده ممکن است به نقطه آسیب‌پذیر ارتباط تبدیل شود.

دیپ‌فیک؛ از پیام متنی تا تماس صوتی و تصویری جعلی

دیپ‌فیک یکی از فناوری‌هایی است که ابعاد تازه‌ای به جعل هویت در حملات سایبری بخشیده است. این فناوری می‌تواند با استفاده از هوش مصنوعی، محتوای صوتی یا تصویری ساختگی تولید کند؛ محتوایی که در آن فردی سخنی می‌گوید یا کاری انجام می‌دهد که در واقعیت رخ نداده است.

در سناریوهای مرتبط با فیشینگ، دیپ‌فیک می‌تواند به‌عنوان بخشی از یک ارتباط فریبنده به کار گرفته شود. برای مثال، مهاجم می‌‍تواند با استفاده از این فناوری، صدایی شبیه به مدیر مالی یک شرکت تولید کند و از کارمند بخواهد پرداختی را تأیید کند. یک تماس تصویری ساختگی می‌تواند برای تقویت اعتبار درخواستی استفاده شود که از طریق پیام یا ایمیل مطرح شده است.

در چنین سناریوهایی، محتوای متقاعدکننده فقط به ظاهر یا لحن پیام وابسته نیست؛ بلکه ممکن است چند شکل ارتباطی را به هم پیوند دهد. یک پیام متنی می‌تواند زمینه تماس صوتی را فراهم کند و تماس نیز برای تأیید ظاهری درخواست مالی یا دریافت اطلاعات محرمانه به کار رود.

خطر زمانی بیشتر می‌شود که درخواست با شرایطی همراه باشد که فرصت بررسی را کاهش می‌دهد؛ برای مثال، ادعای وجود یک مشکل فوری، ضرورت انجام پرداخت پیش از پایان ساعت کاری یا نیاز به حفظ محرمانگی یک موضوع سازمانی. این شرایط می‌توانند مخاطب را به تصمیم‌گیری سریع سوق دهند.

البته هر محتوای تولیدشده با هوش مصنوعی جعلی یا مجرمانه نیست. خطر زمانی شکل می‌گیرد که از این فناوری برای فریب افراد، جعل هویت یا گرفتن اطلاعات و دارایی‌های آن‌ها استفاده شود. در این زمینه، اف‌بی‌آی در هشدارهای خود تأکید کرده است که محتوای صوتی و تصویری تولیدشده با هوش مصنوعی می‌تواند در کلاهبرداری‌های مالی و حملات مهندسی اجتماعی مورد استفاده قرار گیرد.

محتوای متقاعدکننده؛ ترکیب اطلاعات واقعی با درخواست جعلی

یکی از ویژگی‌های مهم نسل جدید فیشینگ، امکان ساخت روایتی است که اجزای آن در نگاه نخست منطقی و مرتبط به نظر می‌رسند. هوش مصنوعی می‌تواند به تولید متنی کمک کند که از نظر لحن، زمینه و جزئیات با موقعیت مخاطب هماهنگ باشد. مهاجم نیز می‌تواند این محتوا را با اطلاعات واقعی درباره افراد، سازمان‌ها یا رویدادهای جاری ترکیب کند.

امکان دارد پیام جعلی به موضوعی اشاره کند که مخاطب آن را می‌شناسد یا پیش‌تر درباره آن صحبت کرده است. این ارتباط با واقعیت، به محتوای ساختگی اعتبار ظاهری می‌بخشد؛ حتی اگر درخواست اصلی پیام با هدف سرقت اطلاعات یا سواستفاده مالی طراحی شده باشد.

برای نمونه، کارمندی پیامی درباره یک تغییر اداری دریافت می‌کند که به نام مدیر، عنوان شغلی افراد و جزئیات یک فرایند واقعی اشاره دارد. محتوای پیام می‌تواند به‌گونه‌ای نوشته شده باشد که ادامه طبیعی یک مکاتبه قبلی به نظر برسد. در نمونه‌ای دیگر، صدای جعلی یک فرد آشنا ممکن است با اطلاعاتی درباره یک رویداد واقعی همراه شود تا مخاطب به اصالت تماس اعتماد کند.

در این نوع حملات، قدرت اقناع از یک نشانه منفرد ناشی نمی‌شود؛ بلکه نتیجه هماهنگی میان چند عامل است. پیام طبیعی است، جزئیات آن آشنا به نظر می‌رسند، هویت فرستنده قابل باور جلوه می‌کند و درخواست نیز در چارچوب موقعیتی مطرح می‌شود که ممکن است برای مخاطب منطقی باشد.

این ترکیب می‌تواند تشخیص فریب را دشوارتر کند زیرا مخاطب با محتوایی روبه‌روست که بخش‌هایی از آن واقعیت دارند اما نتیجه‌گیری یا درخواست نهایی آن ممکن است بر پایه جعل و فریب شکل گرفته باشد.

چرا تشخیص فیشینگ با هوش مصنوعی دشوارتر شده است؟

مهم‌ترین پیامد گسترش این فناوری‌ها، کاهش اتکاپذیری برخی نشانه‌های ظاهری در شناسایی پیام‌های جعلی است. در گذشته، لحن غیرطبیعی، اشتباه‌های نگارشی یا ناهماهنگی در جزئیات می‌توانستند توجه مخاطب را جلب کنند. اکنون هوش مصنوعی قادر است بسیاری از این ایرادها را برطرف کند و محتوایی بسازد که از نظر ظاهری با ارتباطات واقعی تفاوت اندکی داشته باشد.

جعل هویت صوتی و تصویری باعث شده است که اعتماد به صدای آشنا یا مشاهده چهره یک فرد نیز به‌تنهایی برای تأیید هویت او کافی نباشد. این مسئله به‌ویژه در موقعیت‌هایی اهمیت دارد که تصمیم‌های مالی یا سازمانی بر پایه تماس‌های فوری گرفته می‌شوند.

تشخیص محتوای جعلی همچنین می‌تواند به زمینه ارتباط وابسته باشد. یک پیام به‌تنهایی شاید مشکوک به نظر نرسد، اما وقتی با درخواست انتقال وجه، تغییر اطلاعات حساب، ارسال اسناد محرمانه یا دسترسی به یک سامانه همراه می‌شود، اهمیت بررسی آن افزایش می‌یابد.

اف‌بی‌آی در هشدارهای مربوط به جعل هویت با هوش مصنوعی یادآوری کرده است که محتوای مصنوعی ممکن است به اندازه‌ای پیشرفت کرده باشد که شناسایی آن دشوار شود. از این رو، اتکا به مشاهده نقص‌های ظاهری در تصویر یا شنیدن تفاوت‌های جزئی در صدا نمی‌تواند راهکاری کامل برای مقابله با این تهدید باشد.

مقابله با نسل جدید فیشینگ؛ تأیید هویت مهم‌تر از ظاهر پیام

با تغییر شیوه‌های فریب، روش ارزیابی پیام‌های مشکوک نیز باید بر بررسی اصالت درخواست متمرکز شود. طبیعی بودن متن، آشنا بودن نام فرستنده یا شباهت صدا و تصویر به یک فرد شناخته‌شده، به‌تنهایی اعتبار ارتباط را ثابت نمی‌کند.

در درخواست‌های مالی، تغییر اطلاعات حساب، ارائه اطلاعات حساس یا انجام اقدامات مهم سازمانی، تأیید هویت از مسیری مستقل اهمیت ویژه‌ای دارد. برای مثال، اگر فردی از طریق پیام یا تماس درخواست انتقال وجه کند، می‌توان درخواست را با شماره تماس یا کانال ارتباطی شناخته‌شده‌ای که پیش‌تر در اختیار بوده است بررسی کرد. پاسخ دادن به همان پیام یا تماس، به‌تنهایی راه مطمئنی برای تأیید هویت نیست؛ زیرا ممکن است تمام ارتباط تحت کنترل مهاجم باشد.

سازمان‌ها نیز می‌توانند با تعریف فرایندهای مشخص برای تأیید درخواست‌های مالی و دسترسی‌های حساس، وابستگی تصمیم‌گیری به اعتماد شخصی را کاهش دهند. در چنین چارچوبی، حتی درخواست‌هایی که از سوی مدیران یا افراد دارای اختیار مطرح می‌شوند، باید از مسیرهای تعیین‌شده بررسی شوند.

توجه به فوریت غیرمعمول درخواست، اصرار بر محرمانه ماندن موضوع و تغییر ناگهانی روش ارتباطی نیز می‌تواند به ارزیابی دقیق‌تر کمک کند. این نشانه‌ها به‌تنهایی اثبات‌کننده حمله نیستند، اما در کنار ماهیت درخواست می‌توانند ضرورت راستی‌آزمایی را افزایش دهند.

نسل جدید فیشینگ؛ رقابت میان فریب هوشمند و تشخیص دقیق

هوش مصنوعی به مجرمان سایبری امکان داده است تا محتوای فریبنده را با سرعت بیشتر، نگارش بهتر و تناسب بالاتر با مخاطب تولید کنند. ترکیب این توانایی با اطلاعات شخصی، جعل هویت و فناوری دیپ‌فیک، شکل پیچیده‌تری از حملات را به وجود آورده است؛ حملاتی که در آن‌ها مرز میان ارتباط واقعی و محتوای ساختگی دشوارتر از گذشته تشخیص داده می‌شود.

این تحول به معنای غیرممکن شدن شناسایی فیشینگ نیست اما نشان می‌دهد که معیارهای قدیمی برای ارزیابی پیام‌ها کفایت نمی‌کنند. در فضای جدید، اعتبار یک پیام باید با بررسی هویت فرستنده، ماهیت درخواست و تأیید مستقل اطلاعات سنجیده شود.

در حال حاضر چالش این نیست که پیام جعلی چقدر طبیعی نوشته شده یا صدای فرستنده چقدر آشناست؛ مشکل اینجاست که آیا هویت و درخواست مطرح‌شده از مسیری قابل اعتماد تأیید می‌شوند یا خیر. در برابر نسل جدید فیشینگ با هوش مصنوعی، همین تغییر نگاه می‌تواند نقش مهمی در کاهش احتمال فریب و جلوگیری از خسارت‌های مالی و اطلاعاتی داشته باشد.