هوش مصنوعی تشخیص کلاهبرداری آنلاین و جعل هویت را سخت‌تر کرد

گسترش هوش مصنوعی باعث شده کلاهبرداری‌های آنلاین واقعی‌تر و تشخیص آنها دشوارتر شود. گزارش جدید Experian درباره هویت و کلاهبرداری در آمریکا نشان می‌دهد مجرمان سایبری اکنون از هوش مصنوعی برای جعل پیام‌ها، وب‌سایت‌ها، اسناد، صداها، تصاویر و حتی تعاملات مربوط به خدمات مشتری استفاده می‌کنند.

این روند در حالی شدت گرفته که بخش بزرگی از فعالیت‌های روزمره، از بانکداری و خرید گرفته تا پرداخت و دریافت خدمات، به حساب‌های دیجیتال وابسته شده است. در نتیجه، کلاهبرداری آنلاین نه‌تنها خسارت مالی بیشتری ایجاد می‌کند، بلکه اعتماد کاربران به خدمات دیجیتال را نیز تحت تأثیر قرار می‌دهد.

کلاهبرداری در کانال‌های مختلف دیجیتال گسترش یافته است

کلاهبرداری در گذشته بیشتر به مواردی مانند چک جعلی، سرقت کارت بانکی یا فاکتور جعلی محدود می‌شد. اما اکنون این تهدید به بخشی از فعالیت‌های روزمره دیجیتال تبدیل شده و از طریق ایمیل‌های فیشینگ، پیامک‌های جعلی، اطلاعیه‌های ساختگی ارسال کالا، تبلیغات گمراه‌کننده و هشدارهای جعلی حساب کاربری انجام می‌شود.

رشد بانکداری آنلاین، خرید اینترنتی، پرداخت‌های دیجیتال و خدمات پشتیبانی آنلاین، فرصت‌های بیشتری برای سوءاستفاده ایجاد کرده است.

برای کاربران، این مسئله می‌تواند به از دست رفتن پول و کاهش اعتماد به سرویس‌های آنلاین منجر شود. کسب‌وکارها نیز با افزایش هزینه‌های مقابله با تقلب و فشار بیشتر بر سامانه‌های امنیتی و روابط خود با مشتریان مواجه هستند.

هوش مصنوعی تشخیص کلاهبرداری را دشوارتر کرده است

هوش مصنوعی ساخت کلاهبرداری‌های دیجیتال را ساده‌تر و شناسایی آنها را سخت‌تر کرده است. مجرمان می‌توانند ایمیل، پیام، وب‌سایت، سند، صدا و حتی تعاملات مربوط به پشتیبانی مشتری را با کمک AI شبیه‌سازی کنند.

این حملات ممکن است آن‌قدر واقعی به نظر برسند که قربانی را متقاعد کنند اطلاعات شخصی خود را در اختیار مهاجم قرار دهد، پول انتقال دهد یا دسترسی به حساب خود را واگذار کند.

بر اساس گزارش Experian:

• حدود ۶۰ درصد کاربران از کلاهبرداری‌هایی با تصاویر یا ویدئوهای تولیدشده توسط هوش مصنوعی اطلاع دارند.
• ۵۳ درصد با پیام‌های فیشینگ تولیدشده توسط AI آشنا هستند.
• ۴۷ درصد درباره جعل صدای افراد با استفاده از دیپ‌فیک اطلاعات دارند.
• تقریباً نیمی از مصرف‌کنندگان احساس می‌کنند نسبت به سال گذشته بیشتر در معرض کلاهبرداری قرار دارند.

یک پرداخت جعلی یا تغییر غیرمجاز در حساب ممکن است تنها آخرین مرحله یک زنجیره طولانی از فریب باشد. فیشینگ تولیدشده با هوش مصنوعی یکی از مهم‌ترین نگرانی‌های کسب‌وکارها محسوب می‌شود و در کنار آن، جعل اسناد، حملات خودکار مبتنی بر بات و هویت‌های مصنوعی نیز تهدیدهای جدی هستند.

هویت دیجیتال به بخش اصلی اعتماد آنلاین تبدیل شده است

با افزایش کلاهبرداری‌های دیجیتال که تشخیص آنها دشوار است، احراز هویت اهمیت بیشتری پیدا کرده است. بر اساس این گزارش، ۷۱ درصد از مصرف‌کنندگان معتقدند شناسایی دقیق هویت آنها در فضای آنلاین اهمیت زیادی دارد.

احراز هویت بیومتریک رفتاری باعث ایجاد احساس امنیت در ۸۳ درصد کاربران می‌شود. احراز هویت در اپلیکیشن‌های بانکی، استفاده از مشخصات بیومتریک فیزیکی، تأیید هویت و ورود بدون رمز عبور نیز از دیگر روش‌هایی هستند که اعتماد بالایی ایجاد می‌کنند.

کسب‌وکارها نیز برای ارزیابی میزان ریسک، از مجموعه‌ای از سیگنال‌های مربوط به هویت و احراز هویت استفاده می‌کنند.

این موضوع هنگام ایجاد حساب کاربری اهمیت ویژه‌ای دارد؛ زیرا شرکت‌ها باید بتوانند اعتبارنامه‌های سرقت‌شده، هویت‌های مصنوعی و اسناد دستکاری‌شده را شناسایی کنند.

امنیت باید متناسب با میزان ریسک باشد

کاربران انتظار دارند سرویس‌های دیجیتال امنیت بالایی داشته باشند، اما در عین حال نمی‌خواهند انجام کارهای ساده و روزمره با مراحل پیچیده احراز هویت همراه شود.

۸۴ درصد مصرف‌کنندگان اعلام کرده‌اند اگر تأیید هویت بیشتر به جلوگیری از کلاهبرداری کمک کند، حاضرند مراحل اضافی احراز هویت را بپذیرند.

برای مثال، هنگام ایجاد یک حساب جدید، بازیابی دسترسی به حساب یا انجام تراکنش‌های مالی با ارزش بالا، استفاده از بررسی‌های امنیتی بیشتر منطقی است. در مقابل، فعالیت‌های معمول از طریق یک دستگاه شناخته‌شده می‌تواند به مراحل تأیید کمتری نیاز داشته باشد.

در چنین شرایطی، احراز هویت تطبیقی (Adaptive Authentication) می‌تواند با کاهش مراحل غیرضروری، هم امنیت را افزایش دهد و هم تجربه کاربری را حفظ کند.

کسب‌وکارها همچنین می‌توانند میزان خسارت ناشی از کلاهبرداری را در کنار شاخص‌هایی مانند رد اشتباه تراکنش‌ها، ترک فرایند خرید، نرخ تبدیل و رضایت مشتری بررسی کنند تا تأثیر اقدامات امنیتی بر تجربه کاربر مشخص شود.

کنترل داده‌های شخصی، اعتماد دیجیتال را افزایش می‌دهد

مقابله با کلاهبرداری، احراز هویت و حتی عملکرد سامانه‌های هوش مصنوعی به داده‌های شخصی وابسته است. با این حال، کاربران می‌خواهند کنترل بیشتری بر نحوه استفاده و محافظت از اطلاعات خود داشته باشند.

تنها ۲۳ درصد مصرف‌کنندگان احساس می‌کنند کنترل کاملی بر نحوه استفاده از اطلاعات شخصی آنها در فضای آنلاین دارند، در حالی که ۵۶ درصد خواهان چنین سطحی از کنترل هستند.

با وجود این، کاربران همچنان حاضرند اطلاعات خود را در اختیار شرکت‌ها قرار دهند؛ به‌خصوص زمانی که بدانند این کار چه فایده‌ای برای آنها دارد. امنیت و حفظ حریم خصوصی از مهم‌ترین دلایلی هستند که باعث می‌شوند مصرف‌کنندگان با اشتراک‌گذاری اطلاعات خود موافقت کنند.

از این رو، مدیریت صحیح داده‌ها به یکی از ارکان مهم ایجاد اعتماد دیجیتال برای کسب‌وکارها تبدیل شده است.

هوش مصنوعی به ابزار مهمی در مدیریت کلاهبرداری تبدیل می‌شود

هوش مصنوعی اکنون هم توسط مصرف‌کنندگان و کسب‌وکارها و هم توسط کلاهبرداران استفاده می‌شود.

بر اساس گزارش Experian، ۲۷ درصد از حساب‌هایی که کاربران برای نخستین بار گزارش کرده‌اند، مربوط به حساب‌های چت‌بات‌های هوش مصنوعی بوده است؛ رقمی که در سال ۲۰۲۵ حدود ۱۶ درصد بود.

از سوی دیگر، ۸۰ درصد کسب‌وکارهای آمریکایی در حال حاضر از یادگیری ماشین یا هوش مصنوعی مولد در مدیریت کلاهبرداری استفاده می‌کنند.

این فناوری می‌تواند به شناسایی رفتارهای غیرعادی، تشخیص اسناد دستکاری‌شده و کاهش نیاز به بررسی دستی کمک کند. در طرف مقابل، مجرمان نیز از همین فناوری برای ساخت فیشینگ، جعل اسناد، اجرای حملات خودکار و تولید دیپ‌فیک استفاده می‌کنند.

به همین دلیل، استفاده گسترده‌تر از هوش مصنوعی نیازمند نظارت دقیق است. شرکت‌ها باید از داده‌های قابل اعتماد، پایش مداوم مدل‌ها و بررسی انسانی برای تصمیم‌های حساس استفاده کنند.

هوش مصنوعی عامل، چالش جدید احراز هویت

یکی از روندهای جدید، ورود AI Agentها به فعالیت‌هایی مانند خرید آنلاین و رزرو خدمات است.

طبق گزارش Experian، ۳۱ درصد مصرف‌کنندگان از هوش مصنوعی برای این فعالیت‌ها استفاده کرده‌اند و ۲۳ درصد دیگر نیز اعلام کرده‌اند که ممکن است در آینده از AI برای خرید یا رزرو استفاده کنند. با این حال، میزان اعتماد کاربران زمانی که تصمیم موردنظر اهمیت بیشتری داشته باشد، کاهش پیدا می‌کند.

با افزایش استفاده از عامل‌های هوش مصنوعی، کسب‌وکارها ممکن است مجبور شوند علاوه بر هویت مشتری، هویت عامل هوش مصنوعی، ارتباط آن با مشتری و سطح مجوزهای اعطا‌شده به آن را نیز بررسی کنند.

مجرمان سایبری می‌توانند خود را به‌جای عامل‌های معتبر جا بزنند، عامل‌های مجاز را به خطر بیندازند یا از مجوزهای ضعیف سوءاستفاده کنند.

به همین دلیل، برخی شرکت‌ها در حال بررسی مفهومی جدید با عنوان Know Your Agent (KYA) هستند که می‌تواند در آینده به یکی از ابزارهای احراز هویت و کنترل کلاهبرداری در تعاملات مبتنی بر هوش مصنوعی تبدیل شود.

عصر جدید اعتماد دیجیتال با AI

کاتلین پیترز، مدیر ارشد نوآوری Experian، می‌گوید هوش مصنوعی در حال تغییر تعاملات دیجیتال است و در کنار فرصت‌های جدید، ریسک‌های تازه‌ای نیز ایجاد می‌کند.

به گفته او، با نزدیک شدن به دوره‌ای که انسان‌ها برای تصمیم‌گیری بیشتر به عامل‌های هوش مصنوعی متکی خواهند شد، سازمان‌های موفق آنهایی هستند که بتوانند اعتماد را به شکلی قابل مشاهده و قابل اثبات ایجاد کنند.

در چنین شرایطی، احراز هویت و ایجاد اعتماد، چه برای یک انسان و چه برای یک عامل هوش مصنوعی، به بخش جدایی‌ناپذیر تقریباً هر تعامل دیجیتال تبدیل خواهد شد.

جمع‌بندی

گسترش هوش مصنوعی، معادله امنیت دیجیتال را پیچیده‌تر کرده است. از یک سو، کسب‌وکارها می‌توانند از AI برای شناسایی رفتارهای مشکوک و جلوگیری از کلاهبرداری استفاده کنند و از سوی دیگر، مجرمان نیز به ابزارهایی دسترسی پیدا کرده‌اند که جعل هویت، اسناد، صدا و پیام‌ها را بسیار آسان‌تر می‌کند.

در نتیجه، احراز هویت هوشمند، کنترل داده‌های شخصی، احراز هویت تطبیقی و نظارت انسانی بر سیستم‌های AI احتمالاً در سال‌های آینده نقش مهم‌تری در ایجاد اعتماد در فضای دیجیتال خواهند داشت.