بهترین راه مقابله با دیپفیکهای هوش مصنوعی چیست؟
دیپفیکهای هوش مصنوعی تشخیص هویت افراد را دشوار کردهاند. کارشناسان میگویند یک روش ساده و قدیمی میتواند از شرکتها در برابر کلاهبرداریهای پیچیده محافظت کند.
هوش مصنوعی تشخیص جعل هویت را سختتر از همیشه کرده است؛ حالا کارشناسان امنیت سایبری توصیه میکنند شرکتها بهجای اعتماد به تماس تصویری و صدای افراد، از یک راهکار ساده و قدیمی برای تأیید هویت استفاده کنند.
دیپفیکهای مبتنی بر هوش مصنوعی با سرعت زیادی پیشرفت کردهاند و دیگر نمیتوان همیشه با نگاه کردن به چهره یا شنیدن صدای یک فرد، از واقعی بودن او مطمئن شد. این مسئله بهویژه برای شرکتهایی که تراکنشهای مالی بزرگ انجام میدهند، به یک تهدید جدی تبدیل شده است.
یکی از معروفترین نمونهها در ژانویه ۲۰۲۴ رخ داد؛ زمانی که یکی از کارکنان شرکت خدمات حرفهای Arup در یک تماس ویدیویی تصور کرد با مدیر مالی شرکت و چند همکار دیگر صحبت میکند. نتیجه این تماس، انجام ۱۵ انتقال بانکی به حسابهای شخص ثالث و سرقت حدود ۲۵ میلیون دلار بود.
نکته نگرانکننده این بود که افراد حاضر در تماس واقعی نبودند؛ مهاجمان با استفاده از اطلاعات عمومی، ویدیوها و تماسهای قبلی مدیران Arup، نسخههای جعلی مبتنی بر هوش مصنوعی از آنها ساخته بودند.
دیگر نمیتوان به چهره و صدا اعتماد کرد
دیپک گوپتا، مدیر فنی GrackerAI، درباره این نوع حملات میگوید دیدن چهره یا شنیدن صدای یک فرد دیگر نمیتواند بهتنهایی اثبات کند که او واقعاً همان شخص است.
در گذشته، کاربران میتوانستند به نشانههایی مانند صدای مصنوعی، نویزهای غیرطبیعی، حرکات عجیب صورت یا حتی نبود صدای تنفس برای شناسایی دیپفیکها توجه کنند. اما فناوری تولید محتوای جعلی آنقدر پیشرفت کرده که این نشانهها دیگر قابل اتکا نیستند.
مطالعات دانشگاهی نیز نشان میدهند انسانها در تشخیص محتوای صوتی و تصویری جعلی عملکرد چندان قابل اعتمادی ندارند. یک مطالعه از پژوهشگران University College London نشان داد افراد در شناسایی صداهای تولیدشده یا دستکاریشده با هوش مصنوعی تنها در حدود ۷۳ درصد موارد موفق بودهاند. آموزش بیشتر نیز تأثیر محدودی بر این میزان موفقیت داشته است.
پژوهش دیگری که نتایج ۵۶ مطالعه مختلف را بررسی کرده، نشان میدهد توانایی انسان در تشخیص دیپفیکها در برخی شرایط حتی به عملکردی نزدیک به حدس تصادفی میرسد.
چرا نشانههای ظاهری دیگر کافی نیستند؟
جیمز اسکوبی، مدیر فناوری شرکت امنیت سایبری S2i2، معتقد است نشانههای ظاهری همچنان میتوانند بهعنوان یک هشدار جانبی مفید باشند، اما نباید بهعنوان یک ابزار امنیتی اصلی مورد استفاده قرار بگیرند.
مشکل اینجاست که تکیه بر درک بصری و شنیداری، کارکنان را تشویق میکند در زمان حمله به چیزی اعتماد کنند که دقیقاً هدف مهاجم قرار گرفته است.
به بیان ساده، اگر مهاجم بتواند چهره، صدا و رفتار یک مدیر را شبیهسازی کند، گفتن اینکه «این صدا برای من آشناست» دیگر یک روش مطمئن برای تأیید هویت نیست.
راهکار قدیمی؛ تأیید هویت خارج از همان کانال
کارشناسان امنیت سایبری پیشنهاد میکنند سازمانها برای تراکنشهای حساس دوباره به سراغ یک اصل قدیمی بروند: تأیید هویت از طریق یک کانال ارتباطی مستقل.
برای مثال، اگر مدیرعامل یا مدیر مالی در یک تماس ویدیویی درخواست انتقال میلیونها دلار را مطرح کرد، کارمند نباید صرفاً بر اساس همان تماس اقدام کند. بهتر است درخواست از طریق یک شماره تلفن از پیش ثبتشده، سامانه داخلی شرکت، پیامرسان سازمانی یا یک فرایند تأیید مستقل بررسی شود.
این روش شاید در مقایسه با فناوریهای پیشرفته تشخیص دیپفیک ساده به نظر برسد، اما مزیت مهمی دارد: مهاجم برای جعل یک تماس بهتنهایی کافی نیست و باید بتواند کانال دوم تأیید هویت را نیز دور بزند.
قانون «اعتماد نکن، تأیید کن»
این رویکرد در واقع همان مفهوم قدیمی Trust but Verify یا «اعتماد نکن، تأیید کن» است که در دوران پیش از ظهور هوش مصنوعی مولد نیز برای کنترل تراکنشهای حساس استفاده میشد.
سازمانها میتوانند برای فعالیتهایی مانند انتقال مبالغ بالا، تغییر اطلاعات حساب بانکی، دسترسی به دادههای محرمانه یا تغییر تنظیمات امنیتی، یک فرایند تأیید چندمرحلهای تعریف کنند.
در چنین شرایطی، حتی اگر یک مهاجم بتواند صدای مدیر یا تصویر او را با دقت زیادی بازسازی کند، عبور از کنترلهای مستقل بسیار دشوارتر خواهد بود.
دیپفیک؛ تنها مشکل شرکتها نیست
تهدید دیپفیک فقط به شرکتهای بزرگ محدود نمیشود. با عمومیتر شدن ابزارهای تولید صدا و تصویر جعلی، کلاهبرداریهای مبتنی بر جعل هویت میتوانند افراد عادی را نیز هدف قرار دهند.
ممکن است مهاجم با استفاده از صدای جعلی یکی از اعضای خانواده، دوست یا مدیر یک مجموعه، درخواست انتقال پول یا ارسال اطلاعات حساس را مطرح کند. در چنین شرایطی، تماس مستقیم با فرد از طریق یک شماره یا حساب ارتباطی شناختهشده میتواند از یک خسارت بزرگ جلوگیری کند.
جمعبندی
پیشرفت هوش مصنوعی باعث شده تشخیص دیپفیک صرفاً با تکیه بر چشم و گوش روزبهروز دشوارتر شود. بنابراین، سازمانها نباید تماس ویدیویی، صدای آشنا یا تصویر یک فرد را بهعنوان مدرک قطعی هویت در نظر بگیرند.
یکی از مؤثرترین راهکارها ممکن است برخلاف تصور، استفاده از فناوری پیچیدهتر نباشد؛ بلکه بازگشت به یک روش ساده و قدیمی یعنی تأیید درخواستها از طریق یک کانال ارتباطی مستقل باشد.
در عصر دیپفیکها، شاید بهترین راه برای مقابله با جعل هویت هوش مصنوعی این باشد که به چیزی که میبینیم و میشنویم اعتماد نکنیم و همیشه آن را از یک مسیر دیگر بررسی کنیم.
