Deepfake و جعل صدا؛ مهندسی اجتماعی وارد عصر هوش مصنوعی شد

تا چند سال قبل، وقتی از جعل هویت در حملات سایبری صحبت می‌کردیم، معمولاً منظورمان ساختن یک حساب کاربری جعلی، ارسال یک ایمیل تقلبی یا تماس گرفتن با قربانی با نام فرد دیگری بود. اما هوش مصنوعی یک لایه جدید به این حملات اضافه کرده است: مهاجم می‌تواند ظاهر، صدا یا حتی ویدیوی یک فرد را برای فریب قربانی جعل کند.

این فناوری‌ها در کاربردهای قانونی مانند تولید محتوا، دوبله، دسترسی‌پذیری و سرگرمی نیز استفاده می‌شوند؛ اما در سمت دیگر، می‌توانند برای مهندسی اجتماعی، کلاهبرداری، فیشینگ، جعل هویت و سرقت اطلاعات نیز مورد سوءاستفاده قرار بگیرند.

به همین دلیل، در عصر هوش مصنوعی دیگر نمی‌توان فقط با شنیدن صدای یک فرد یا دیدن تصویر او، هویتش را قطعی دانست.

در این مقاله می‌خوانید

• Deepfake چیست و چه تفاوتی با یک محتوای جعلی معمولی دارد؟
• Voice Cloning یا شبیه‌سازی صدا چیست؟
• هوش مصنوعی چگونه صدا و تصویر یک فرد را جعل می‌کند؟
• مهاجمان چگونه از Deepfake در مهندسی اجتماعی استفاده می‌کنند؟
• کلاهبرداری با صدای جعلی چگونه اتفاق می‌افتد؟
• Deepfake چه ارتباطی با فیشینگ دارد؟
• از کجا بفهمیم یک صدا، تصویر یا ویدیو مشکوک است؟
• اگر صدای جعلی یکی از اعضای خانواده یا مدیر شرکت را شنیدیم چه کنیم؟
• آیا ابزارهای تشخیص Deepfake همیشه قابل اعتماد هستند؟

Deepfake چیست؟

Deepfake به محتوای صوتی، تصویری یا ویدیویی گفته می‌شود که با استفاده از فناوری‌های هوش مصنوعی تولید یا دستکاری شده و می‌تواند یک فرد واقعی را به شکلی نشان دهد یا به صدایی شبیه او ایجاد کند که در واقعیت چنین اتفاقی رخ نداده است.

برای مثال، ممکن است ویدیویی منتشر شود که ظاهراً یک فرد شناخته‌شده در آن صحبت می‌کند، در حالی که آن فرد چنین حرفی نزده است.

یا ممکن است یک فایل صوتی تولید شود که صدای آن بسیار شبیه یکی از اعضای خانواده باشد و در آن از قربانی درخواست پول شود.

بنابراین Deepfake فقط به ویدیو محدود نیست و می‌تواند شامل جعل صدا، تصویر و ویدیو باشد.

نکته مهم این است که Deepfake به‌خودی‌خود یک «حمله سایبری» نیست. فناوری تولید یا دستکاری محتوا می‌تواند کاملاً قانونی و مفید باشد. زمانی که از این فناوری برای فریب، جعل هویت، کلاهبرداری یا سرقت اطلاعات استفاده شود، موضوع به امنیت سایبری و مهندسی اجتماعی مرتبط می‌شود.

چرا Deepfake برای امنیت سایبری مهم است؟

هدف بسیاری از حملات مهندسی اجتماعی، شکستن سیستم نیست؛ بلکه متقاعد کردن انسان برای انجام کاری است که مهاجم می‌خواهد.

مهاجم ممکن است بخواهد قربانی:

• پول منتقل کند.
• رمز عبور خود را وارد کند.
• کد احراز هویت را در اختیار او قرار دهد.
• روی یک لینک کلیک کند.
• یک نرم‌افزار نصب کند.
• اطلاعات محرمانه شرکت را ارسال کند.
• یا اطلاعات بیشتری درباره خودش و دیگران ارائه دهد.

برای انجام این کار، مهاجم باید اعتماد ایجاد کند.

Deepfake می‌تواند همین مرحله را تقویت کند.

اگر مهاجم بتواند صدای مدیر شرکت، یکی از اعضای خانواده یا فردی که قربانی به او اعتماد دارد را جعل کند، سناریوی کلاهبرداری ممکن است برای قربانی باورپذیرتر شود.

پس مسئله اصلی Deepfake در امنیت سایبری این نیست که «هوش مصنوعی می‌تواند ویدیو بسازد»؛ مسئله این است که هوش مصنوعی می‌تواند ابزارهای اعتمادسازی در مهندسی اجتماعی را قدرتمندتر کند.

Voice Cloning چیست؟

Voice Cloning یا شبیه‌سازی صدا، به فناوری‌هایی گفته می‌شود که می‌توانند بر اساس نمونه‌های صوتی یک فرد، صدایی مشابه او تولید کنند.

برای درک ساده موضوع، فرض کنید از یک فرد نمونه‌های صوتی مختلفی وجود دارد. این نمونه‌ها می‌توانند در ویدیوهای عمومی، مصاحبه‌ها، پادکست‌ها یا سایر محتواهای منتشرشده در اینترنت وجود داشته باشند.

یک سامانه هوش مصنوعی می‌تواند ویژگی‌های صدای فرد را تحلیل کند و سپس صدایی تولید کند که برای شنونده شبیه صدای او باشد.

این فناوری کاربردهای مشروع زیادی دارد؛ اما اگر در یک سناریوی کلاهبرداری استفاده شود، مهاجم می‌تواند از آن برای ساختن یک هویت صوتی جعلی استفاده کند.

یک نکته مهم

مهاجم لزوماً به ساعت‌ها صدای فرد نیاز ندارد تا بتواند یک سناریوی فریب ایجاد کند. مقدار و کیفیت داده مورد نیاز به فناوری و کاربرد موردنظر بستگی دارد و ابزارهای مختلف نیز توانایی‌های متفاوتی دارند.

به همین دلیل، بهتر است اطلاعات صوتی عمومی را نیز مانند سایر اطلاعات شخصی، بخشی از ردپای دیجیتال فرد بدانیم.

Deepfake چگونه به مهندسی اجتماعی کمک می‌کند؟

مهندسی اجتماعی معمولاً از چند مرحله تشکیل می‌شود:

جمع‌آوری اطلاعات → ایجاد اعتماد → ایجاد فشار یا فوریت → درخواست اقدام

Deepfake می‌تواند در مرحله «ایجاد اعتماد» وارد شود.

برای مثال، مهاجم ممکن است ابتدا اطلاعاتی درباره قربانی یا فرد موردنظر جمع‌آوری کند. سپس با استفاده از یک صدای جعلی، تصویر جعلی یا ویدیوی دستکاری‌شده، خودش را به جای آن فرد معرفی کند.

در مرحله بعد، با ایجاد یک موقعیت اضطراری از قربانی می‌خواهد کاری انجام دهد.

برای نمونه:

«من الان جلسه‌ام و نمی‌توانم صحبت کنم. این مبلغ را همین الان منتقل کن.»

در این سناریو، صدای جعلی فقط یکی از ابزارهای حمله است.

اطلاعاتی که مهاجم قبلاً جمع‌آوری کرده، داستانی که تعریف می‌کند، حس فوریت و درخواست نهایی، همگی در کنار یکدیگر قرار می‌گیرند.

یک سناریوی ساده؛ تماس جعلی از طرف یکی از اعضای خانواده

فرض کنید تلفن شما زنگ می‌خورد.

صدای تماس‌گیرنده بسیار شبیه برادر، خواهر یا یکی از نزدیکان شماست.

او می‌گوید:

«گوشی قبلی‌ام خراب شده. الان یک مشکل فوری دارم و باید سریع پول واریز کنم.»

در چنین شرایطی، طبیعی است که فرد ابتدا به صدای آشنا اعتماد کند.

اما اگر صدا با هوش مصنوعی جعل شده باشد، همین اعتماد می‌تواند تبدیل به نقطه ضعف شود.

راهکار چیست؟

نباید از همان کانالی که درخواست را دریافت کرده‌ایم، هویت را تأیید کنیم.

تماس را قطع کنید و با شماره‌ای که از قبل برای آن فرد ذخیره کرده‌اید تماس بگیرید.

اگر شخص واقعی پاسخ داد و گفت چنین درخواستی نداشته، مشخص می‌شود تماس اول جعلی بوده است.

چرا مهاجم از «عجله» استفاده می‌کند؟

عجله یکی از قدیمی‌ترین ابزارهای مهندسی اجتماعی است و ارتباطی با Deepfake ندارد.

اما Deepfake می‌تواند این تکنیک را باورپذیرتر کند.

مثلاً مهاجم به جای یک پیام متنی ساده می‌تواند با صدایی شبیه مدیر شرکت بگوید:

«الان فرصت توضیح ندارم؛ پرداخت را انجام بده.»

قربانی در چنین شرایطی ممکن است به جای بررسی درخواست، به دلیل فشار زمانی تصمیم بگیرد.

بنابراین هر زمان که یک درخواست حساس با عبارت‌هایی مانند این همراه شد، باید مکث کنیم:

• همین الان انجام بده.
• وقت نداریم.
• موضوع خیلی فوری است.
• به کسی نگو.
• بعداً توضیح می‌دهم.
• فقط همین یک بار.

فوریت، هویت فرد را ثابت نمی‌کند.

Deepfake در محیط کار چگونه استفاده می‌شود؟

تصور کنید کارمند بخش مالی یک شرکت تماسی دریافت می‌کند.

تماس‌گیرنده ظاهراً مدیر شرکت است و درباره یک پرداخت فوری صحبت می‌کند.

ممکن است حتی اطلاعات واقعی درباره پروژه، نام مشتری یا مبلغ موردنظر نیز داشته باشد.

در این شرایط، چند عامل می‌تواند همزمان قربانی را تحت تأثیر قرار دهد:

صدای آشنا + اطلاعات واقعی + موقعیت شغلی فرد + درخواست فوری

اما هیچ‌کدام از این موارد به‌تنهایی اثبات نمی‌کنند که درخواست واقعاً از طرف مدیر ارسال شده است.

به همین دلیل، سازمان‌ها برای درخواست‌های حساس مالی یا دسترسی به اطلاعات محرمانه باید فرآیند تأیید مستقل داشته باشند.

مثلاً پرداخت‌های حساس نباید فقط بر اساس یک تماس تلفنی یا پیام صوتی انجام شوند.

Deepfake و فیشینگ چه ارتباطی دارند؟

Deepfake و Phishing دو مفهوم متفاوت هستند.

فیشینگ معمولاً به تلاش برای فریب کاربر با پیام، ایمیل، سایت یا ارتباط جعلی برای سرقت اطلاعات یا انجام یک اقدام خاص گفته می‌شود.

Deepfake یک فناوری یا روش تولید محتوای جعلی است که می‌تواند در کنار فیشینگ استفاده شود.

برای مثال، مهاجم می‌تواند:

1. یک پیام فیشینگ برای قربانی ارسال کند.
2. قربانی را به یک صفحه جعلی هدایت کند.
3. سپس با یک تماس صوتی یا تصویری جعلی اعتماد او را بیشتر کند.
4. قربانی را به وارد کردن اطلاعات یا انتقال پول ترغیب کند.

بنابراین Deepfake می‌تواند به عنوان یکی از اجزای یک حمله چندمرحله‌ای مهندسی اجتماعی مورد استفاده قرار گیرد.

جعل هویت فقط با صدا انجام نمی‌شود

هوش مصنوعی می‌تواند برای دستکاری انواع مختلف محتوا مورد استفاده قرار گیرد.

جعل صدا

مهاجم صدایی شبیه فرد دیگری تولید می‌کند.

کاربرد احتمالی در حمله:

• تماس تلفنی
• پیام صوتی
• درخواست انتقال پول
• جعل هویت مدیر یا عضو خانواده

جعل تصویر

تصویر یک فرد می‌تواند تولید یا دستکاری شود.

برای مثال، مهاجم ممکن است از تصویر فرد دیگری برای ساختن یک حساب کاربری جعلی استفاده کند.

جعل ویدیو

در ویدیوهای دستکاری‌شده، ظاهر یا چهره یک فرد می‌تواند تغییر کند یا محتوایی تولید شود که نشان دهد فرد موردنظر چیزی گفته یا انجام داده است؛ در حالی که چنین اتفاقی در واقعیت رخ نداده است.

ترکیب چند روش

خطرناک‌ترین سناریو الزاماً یک فایل Deepfake بسیار پیچیده نیست.

گاهی ترکیب چند تکنیک ساده می‌تواند بسیار مؤثرتر باشد:

عکس واقعی + اطلاعات واقعی + شماره جعلی + صدای شبیه‌سازی‌شده + درخواست فوری

در این حالت، هر بخش از سناریو ممکن است به‌تنهایی چندان عجیب نباشد، اما کنار هم یک حمله مهندسی اجتماعی ایجاد می‌کنند.

آیا می‌توان Deepfake را از روی صدا تشخیص داد؟

گاهی ممکن است نشانه‌هایی وجود داشته باشد، اما تشخیص قطعی فقط با گوش دادن به صدا همیشه امکان‌پذیر نیست.

ممکن است صدای مصنوعی:

• کمی غیرطبیعی به نظر برسد.
• در تلفظ برخی کلمات مشکل داشته باشد.
• لحن یا احساسات غیرعادی داشته باشد.
• در بخش‌هایی از جمله کیفیت متفاوتی داشته باشد.

اما این نشانه‌ها قطعی نیستند.

از طرف دیگر، کیفیت فناوری‌های تولید صدا و ویدیو دائماً در حال تغییر است.

بنابراین توصیه امنیتی نباید این باشد که:

«اگر صدای جعلی را خوب گوش کنیم حتماً متوجه می‌شویم.»

رویکرد مطمئن‌تر این است:

«برای درخواست‌های حساس، هویت را از یک مسیر مستقل بررسی کنیم.»

آیا تماس تصویری هم قابل اعتماد نیست؟

تماس تصویری می‌تواند اطلاعات بیشتری نسبت به تماس صوتی در اختیار ما قرار دهد، اما باز هم نباید تنها عامل احراز هویت باشد.

اگر فردی در یک تماس تصویری درخواست انتقال وجه، دریافت کد احراز هویت یا ارسال اطلاعات محرمانه دارد، دیدن چهره او به‌تنهایی کافی نیست.

این موضوع به‌خصوص زمانی اهمیت دارد که:

• درخواست غیرعادی باشد.
• موضوع فوری باشد.
• شماره یا حساب کاربری تغییر کرده باشد.
• فرد از راستی‌آزمایی جلوگیری کند.
• درخواست مالی یا امنیتی مطرح شده باشد.

۸ علامت هشدار در یک تماس یا پیام مشکوک

هیچ‌کدام از این موارد به‌تنهایی ثابت نمی‌کنند که با Deepfake مواجه هستیم؛ اما می‌توانند نشانه‌ای برای توقف و بررسی بیشتر باشند.

۱. درخواست غیرمنتظره

فردی که معمولاً چنین کاری نمی‌کند، ناگهان درخواست مالی یا اطلاعاتی دارد.

۲. تأکید شدید بر فوریت

از شما خواسته می‌شود «همین الان» کاری انجام دهید.

۳. تغییر شماره یا حساب

فرد ادعا می‌کند شماره یا حساب قبلی خود را از دست داده و باید از مسیر جدید ارتباط برقرار کنید.

۴. درخواست محرمانه ماندن

از شما خواسته می‌شود موضوع را با شخص دیگری مطرح نکنید.

۵. درخواست اطلاعات حساس

مثلاً:

• رمز عبور
• کد احراز هویت
• اطلاعات کارت بانکی
• اطلاعات حساب
• فایل محرمانه
• اطلاعات کارکنان

۶. جلوگیری از تماس مجدد

فرد نمی‌خواهد شما با شماره قبلی یا کانال دیگری با او تماس بگیرید.

۷. داستان بیش از حد مناسب به نظر می‌رسد

مهاجم ممکن است اطلاعات واقعی درباره شما داشته باشد تا سناریوی ساختگی خود را باورپذیر کند.

۸. چند علامت همزمان وجود دارد

یک درخواست فوری مالی از یک شماره جدید، همراه با اصرار بر محرمانه ماندن، بسیار مهم‌تر از یک علامت منفرد است.

یک اصل مهم: اطلاعات درست، هویت واقعی را ثابت نمی‌کند

فرض کنید فرد تماس‌گیرنده نام شما، نام مدیرتان، نام شرکت یا حتی اطلاعات یک پروژه واقعی را می‌داند.

آیا این یعنی حتماً خودش همان فرد است؟

خیر.

اطلاعات ممکن است از منابع عمومی، شبکه‌های اجتماعی، نشت اطلاعات، ارتباطات قبلی یا روش‌های مختلف جمع‌آوری اطلاعات به دست آمده باشند.

در مهندسی اجتماعی، مهاجم تلاش می‌کند اطلاعات واقعی را با یک داستان جعلی ترکیب کند.

بنابراین «او اطلاعات من را می‌دانست» نباید به معنی «پس خودش بود» تلقی شود.

اگر صدای یکی از نزدیکان را شنیدیم و درخواست پول داشت چه کنیم؟

این یکی از مهم‌ترین سناریوهای عملی برای کاربران عادی است.

روش پیشنهادی:

اول: مکث کنید.

اگر درخواست فوری است، عجله نکنید.

دوم: تماس را قطع کنید.

قرار نیست برای اثبات هویت، مکالمه مشکوک را ادامه دهید.

سوم: با شماره قبلی فرد تماس بگیرید.

شماره‌ای را استفاده کنید که از قبل در اختیار دارید، نه شماره‌ای که تماس‌گیرنده تازه معرفی کرده است.

چهارم: یک سؤال یا روش تأیید مستقل داشته باشید.

به اطلاعاتی تکیه کنید که مهاجم در همان سناریو نمی‌تواند به‌راحتی کنترل کند.

پنجم: تا زمان تأیید، پول یا اطلاعات حساس ارسال نکنید.

این چند مرحله ساده می‌تواند یک سناریوی Deepfake را از یک کلاهبرداری موفق به یک تلاش ناموفق تبدیل کند.

اگر در سازمان کار می‌کنیم چه کنیم؟

برای سازمان‌ها، اتکا به هوشیاری کارکنان به‌تنهایی کافی نیست.

باید فرآیندهایی وجود داشته باشد که حتی اگر کارمند فریب خورد، مهاجم نتواند به‌سادگی به هدف نهایی برسد.

برای درخواست‌های حساس بهتر است:

• انتقال‌های مالی حساس نیاز به تأیید دوم داشته باشند.
• تغییر شماره حساب تأمین‌کنندگان از مسیر مستقل تأیید شود.
• درخواست‌های اضطراری مدیران از یک کانال دیگر بررسی شوند.
• کارکنان بدانند مدیر یا واحد فناوری اطلاعات نباید رمز عبور و کدهای احراز هویت را درخواست کند.
• آموزش مهندسی اجتماعی به کارکنان داده شود.
• گزارش کردن موارد مشکوک بدون ترس از سرزنش امکان‌پذیر باشد.

هدف این کنترل‌ها این نیست که کارمند بتواند Deepfake را با چشم یا گوش تشخیص دهد؛ هدف این است که حتی یک هویت جعلی نیز نتواند به‌تنهایی یک اقدام حساس را اجرا کند.

آیا باید از تمام محتوای تولیدشده با هوش مصنوعی بترسیم؟

خیر.

هوش مصنوعی یک فناوری است و کاربردهای مفید زیادی دارد.

مسئله امنیتی زمانی ایجاد می‌شود که فردی از این فناوری برای فریب، جعل هویت، سرقت اطلاعات، کلاهبرداری یا دستکاری قربانی استفاده کند.

بنابراین راهکار، بی‌اعتمادی کامل به هر فایل صوتی یا تصویری نیست.

راهکار، ایجاد یک عادت امنیتی جدید است:

هرچه درخواست حساس‌تر است، روش تأیید هویت باید قوی‌تر و مستقل‌تر باشد.

آیا ابزارهای تشخیص Deepfake کافی هستند؟

ابزارهای تشخیص محتوای مصنوعی می‌توانند در برخی شرایط مفید باشند، اما نباید تنها خط دفاعی کاربر باشند.

دلیل ساده است: فناوری تولید محتوا و فناوری تشخیص آن هر دو در حال پیشرفت هستند و نتیجه یک ابزار تشخیص نیز لزوماً معادل اثبات هویت فرد نیست.

مثلاً حتی اگر یک ابزار بگوید یک فایل صوتی احتمالاً واقعی است، هنوز مشخص نیست چه کسی آن فایل را ارسال کرده و آیا درخواست او معتبر است یا خیر.

برای همین، امنیت باید چندلایه باشد:

تشخیص محتوا + بررسی زمینه + تأیید هویت + بررسی درخواست

چگونه ریسک Deepfake را کمتر کنیم؟

برای کاربران عادی

• اطلاعات شخصی غیرضروری را عمومی نکنید.
• نسبت به تماس‌های اضطراری حساس باشید.
• برای درخواست مالی، هویت فرد را مستقل تأیید کنید.
• کد احراز هویت را در اختیار دیگران قرار ندهید.
• روی لینک‌های ارسال‌شده در شرایط مشکوک کلیک نکنید.
• در صورت شک، مکالمه را متوقف کنید.
• یک روش خانوادگی برای تأیید درخواست‌های اضطراری داشته باشید.

برای سازمان‌ها

• درخواست‌های مالی حساس را دو مرحله‌ای کنید.
• تغییر اطلاعات حساب را مستقل تأیید کنید.
• برای مدیران و کارکنان پروتکل تأیید هویت داشته باشید.
• آموزش مهندسی اجتماعی را جدی بگیرید.
• کارکنان را با سناریوهای جعل صدا و هویت آشنا کنید.
• فرآیند گزارش حادثه را ساده و مشخص کنید.

قانون طلایی مقابله با Deepfake

اگر بخواهیم تمام این مقاله را در یک جمله خلاصه کنیم:

هرچه درخواست حساس‌تر است، نباید فقط به صدای آشنا، تصویر آشنا یا حتی ویدیوی آشنا اعتماد کنیم؛ هویت و درخواست باید از یک مسیر مستقل تأیید شود.

Deepfake ممکن است بتواند صدای فرد را تقلید کند، اما اگر فرآیند تأیید هویت ما به یک کانال مستقل وابسته باشد، جعل صدا به‌تنهایی برای موفقیت حمله کافی نخواهد بود.

جمع‌بندی

هوش مصنوعی مرز میان «چیزی که واقعی به نظر می‌رسد» و «چیزی که واقعاً اتفاق افتاده» را پیچیده‌تر کرده است.

Deepfake، Voice Cloning و فناوری‌های مشابه می‌توانند برای ساخت محتوای جعلی استفاده شوند و در صورت ترکیب با مهندسی اجتماعی، فیشینگ و جمع‌آوری اطلاعات درباره قربانی، زمینه حملات پیچیده‌تری را فراهم کنند.

اما مهم‌ترین دفاع در برابر این حملات، الزاماً یک ابزار فنی نیست.

مکث کردن، بررسی درخواست، تأیید هویت از یک مسیر مستقل و خودداری از انتقال اطلاعات یا پول در شرایط مشکوک، چهار رفتار ساده اما مهم هستند.

در دنیایی که ممکن است صدای یک فرد قابل جعل باشد، دیگر سؤال اصلی این نیست که:

«آیا این صدا شبیه خودش است؟»

بلکه باید بپرسیم:

«چطور مطمئن شوم واقعاً خودش است؟»

سوالات متداول

Deepfake چیست؟

Deepfake به محتوای صوتی، تصویری یا ویدیویی تولید یا دستکاری‌شده با فناوری‌های هوش مصنوعی گفته می‌شود که می‌تواند ظاهر یا صدای یک فرد واقعی را شبیه‌سازی کند.

Voice Cloning چیست؟

Voice Cloning یا شبیه‌سازی صدا، فناوری تولید صدایی مشابه صدای یک فرد بر اساس نمونه‌های صوتی اوست. این فناوری کاربردهای قانونی دارد، اما می‌تواند در کلاهبرداری و جعل هویت نیز سوءاستفاده شود.

آیا صدای فرد قابل جعل است؟

بله. فناوری‌های شبیه‌سازی صدا می‌توانند صدایی مشابه یک فرد تولید کنند؛ به همین دلیل صدای آشنا به‌تنهایی نباید برای تأیید هویت در یک درخواست حساس کافی باشد.

آیا Deepfake همان فیشینگ است؟

خیر. فیشینگ یک روش فریب برای سرقت اطلاعات یا وادار کردن قربانی به انجام اقدام خاص است. Deepfake فناوری یا روشی برای تولید و دستکاری محتوای صوتی و تصویری است که می‌تواند در کنار فیشینگ استفاده شود.

اگر با صدای یکی از اعضای خانواده درخواست پول دریافت کردیم چه کنیم؟

تماس را متوقف کنید و با شماره‌ای که از قبل در اختیار دارید با آن فرد تماس بگیرید. تا زمانی که هویت و درخواست به‌صورت مستقل تأیید نشده، پول یا اطلاعات حساس ارسال نکنید.

آیا دیدن فرد در تماس تصویری برای تأیید هویت کافی است؟

خیر. در اقدامات حساس مانند انتقال وجه یا ارائه اطلاعات محرمانه، تماس تصویری نیز نباید تنها روش تأیید هویت باشد.

آیا می‌توان Deepfake را همیشه تشخیص داد؟

خیر. نشانه‌های فنی ممکن است وجود داشته باشند، اما تشخیص قطعی همیشه ساده نیست. برای همین، تأیید مستقل هویت و درخواست اهمیت بیشتری دارد.

آیا باید از انتشار صدای خود در اینترنت خودداری کنیم؟

لازم نیست هر نوع محتوای صوتی را حذف کنیم، اما باید بدانیم محتوای صوتی عمومی بخشی از ردپای دیجیتال ماست و می‌تواند در برخی سناریوهای جعل هویت مورد سوءاستفاده قرار گیرد.

اتاق تحلیل ۲۴ نیوز | دیدگاه تحلیلی بهراد یوسفی

Deepfake به‌تنهایی مسئله اصلی نیست؛ ترکیب Deepfake با مهندسی اجتماعی است که ریسک را افزایش می‌دهد.

مهاجم برای موفقیت الزاماً به یک ویدیوی فوق‌واقعی نیاز ندارد. گاهی یک صدای نسبتاً مشابه، چند اطلاعات واقعی درباره قربانی و یک داستان اضطراری می‌تواند برای ایجاد اعتماد کافی باشد.

از این منظر، مهم‌ترین تغییر امنیتی در عصر هوش مصنوعی این است که کاربران باید میان «قابل‌باور بودن» و «تأییدشدن» تفاوت قائل شوند.

یک صدا می‌تواند شبیه صدای مدیر باشد، یک تصویر می‌تواند شبیه تصویر دوستمان باشد و حتی فرد مقابل ممکن است اطلاعات واقعی درباره ما بداند؛ اما هیچ‌کدام به‌تنهایی هویت را اثبات نمی‌کنند.

برای همین، دفاع مؤثر در برابر این نوع حملات باید از سطح «آیا Deepfake را تشخیص دادم؟» فراتر برود و به یک اصل ساده برسد:

برای هر اقدام حساس، هویت و درخواست را از مسیری مستقل تأیید کن.

منابع 

FBI — Senior U.S. Officials Impersonated in Malicious Messaging Campaign

FBI IC3 — Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud

FBI — Senior U.S. Officials Continue To Be Impersonated

FBI IC3 — Scammers Impersonating the IC3

NIST — Reducing Risks Posed by Synthetic Content

NIST — GenAI: Deepfakes 2026

CFTC — Criminals Increasing Use of Generative AI to Commit Fraud

کلاهبرداران سایبری چگونه ذهن قربانیان را هک می‌کنند؟ در ادامه حتما بخوانید

صدای فرزندتان را شنیدید؟ شاید کلاهبردار پشت خط باشد! / هشدار پلیس فتا درباره دیپ‌فیک در ادامه حتما بخوانید