هوش مصنوعی مولد که این روزها به یکی از ابزارهای اصلی جست‌وجوی اطلاعات، برنامه‌نویسی و تولید محتوا تبدیل شده است، اکنون خود به بستری برای شکل‌گیری تهدیدی تازه در فضای سایبری بدل شده است.

پژوهشگران امنیتی از شناسایی روشی جدید با عنوان  Phantom Squatting خبر داده‌اند؛ روشی که در آن مهاجمان، دامنه‌هایی را که مدل‌های هوش مصنوعی به اشتباه ایجاد می‌کنند، ثبت کرده و از آن‌ها برای اجرای حملات فیشینگ و توزیع بدافزار استفاده می‌کنند.

به گزارش هکر نیوز، این حمله بر یکی از ضعف‌های ذاتی مدل‌های زبانی تکیه دارد. این مدل‌ها گاهی هنگام پاسخ‌گویی به پرسش‌های کاربران، آدرس وب‌سایت‌هایی را پیشنهاد می‌کنند که در واقع وجود خارجی ندارند. مهاجمان نیز پیش از آنکه فرد یا سازمان دیگری این دامنه‌ها را ثبت کند، آن‌ها را به نام خود ثبت کرده و وب‌سایت‌های جعلی یا آلوده را روی این آدرس‌ها راه‌اندازی می‌کنند.

بیش از دو میلیون لینک بررسی شد

محققان برای بررسی ابعاد این تهدید، دو مدل هوش مصنوعی را با بیش از ۶۸۵ هزار پرسش درباره ۹۱۳ برند شناخته‌شده در حوزه‌های فناوری، بانکداری، سلامت، دولت، شرط‌بندی آنلاین و سایر صنایع آزمایش کردند.

نتیجه این بررسی، تولید بیش از ۲.۱ میلیون لینک بود؛ آماری که ابعاد نگران‌کننده این تهدید را آشکار کرد. بر اساس یافته‌های این پژوهش، بیش از ۱۳ هزار لینک تولیدشده، پیش‌تر به‌عنوان آدرس‌های مخرب شناسایی شده بودند. همچنین حدود ۲۵۰ هزار دامنه‌ای که مدل‌های هوش مصنوعی پیشنهاد کرده بودند، هنوز ثبت نشده بودند و می‌توانستند به‌راحتی توسط مهاجمان ثبت و مورد سوءاستفاده قرار گیرند.

چرا Phantom Squatting خطرناک است؟

دامنه‌های تازه‌ثبت‌شده در ابتدای فعالیت خود هیچ سابقه‌ای در سامانه‌های اعتبارسنجی و فهرست‌های سیاه امنیتی ندارند. به همین دلیل، ابزارهای امنیتی و سامانه‌های تشخیص تهدید معمولاً نمی‌توانند بلافاصله آن‌ها را شناسایی و مسدود کنند.

این موضوع باعث می‌شود کاربر از طریق پاسخ یک ابزار هوش مصنوعی وارد سایتی شود که هنوز هیچ سابقه منفی در پایگاه‌های اطلاعاتی امنیتی ندارد و تا زمان شناسایی آن، بتواند قربانیان متعددی بگیرد.

از سوی دیگر، پژوهشگران تأکید می‌کنند این دامنه‌های جعلی صرفاً ناشی از داده‌های آموزشی مدل‌ها نیستند، بلکه حاصل الگوهای زبانی خود مدل‌های هوش مصنوعی‌اند. نکته قابل‌توجه آن است که حتی مدل‌های مختلف نیز در بسیاری از موارد، دقیقاً یک دامنه اشتباه را در پاسخ به یک پرسش مشابه تولید می‌کنند؛ موضوعی که پیش‌بینی اهداف بعدی را برای مهاجمان آسان‌تر می‌کند.

دو حمله واقعی با استفاده از دامنه‌های خیالی

گزارش Unit 42 به دو نمونه واقعی از این حملات اشاره می‌کند.

در نخستین مورد، سامانه پژوهشگران در هشتم مارس ۲۰۲۶ پیش‌بینی کرد که مدل‌های هوش مصنوعی دامنه‌ای مشابه بازار آنلاین یک شرکت ملی خدمات پستی را به کاربران پیشنهاد خواهند داد. تنها ۲۳ روز بعد، مهاجمان همان دامنه را ثبت کردند و با راه‌اندازی کیت فیشینگی موسوم به «Montana Empire»، نسخه‌ای کاملاً مشابه وب‌سایت اصلی ایجاد کردند.

این وب‌سایت جعلی اطلاعات حساس کاربران، از جمله شماره کارت بانکی، اطلاعات انتقال وجه و شناسه‌های ملی را سرقت می‌کرد. بررسی‌ها همچنین نشان داد عاملان این حمله برای توسعه زیرساخت خود از یک دستیار برنامه‌نویسی مبتنی بر هوش مصنوعی استفاده کرده بودند.

در نمونه دوم نیز پژوهشگران، ۵۱ روز پیش از ثبت یک دامنه جعلی، آن را به‌عنوان یکی از خروجی‌های احتمالی مدل‌های هوش مصنوعی شناسایی کردند. مهاجمان پس از ثبت این دامنه، نسخه‌ای کاملاً مشابه از وب‌سایت یک سرویس پستی ایجاد کردند و با نمایش امتیاز جعلی ۴.۸ ستاره و ادعای داشتن بیش از دو میلیون کاربر، قربانیان را به دانلود یک برنامه آلوده اندرویدی ترغیب کردند.

بررسی‌ها همچنین از شناسایی دامنه‌هایی خبر می‌دهد که برای جعل هویت یک بانک بزرگ اماراتی، یک بانک اروپایی و چند وب‌سایت شرط‌بندی ورزشی مورد استفاده قرار گرفته‌اند.

تهدیدی مشابه Slopsquatting، اما در سطح وب 

کارشناسان امنیت سایبری معتقدند Phantom Squatting نسخه اینترنتی حمله‌ای موسوم به Slopsquatting است؛ روشی که در آن مهاجمان نام بسته‌های نرم‌افزاری خیالیِ تولیدشده توسط ابزارهای هوش مصنوعی را ثبت می‌کنند تا توسعه‌دهندگان به‌اشتباه آن‌ها را نصب کنند.

پیش از این نیز پژوهش‌های دانشگاهی نشان داده بود که مدل‌های تولیدکننده کد بارها نام بسته‌هایی را پیشنهاد می‌کنند که وجود خارجی ندارند. مهاجمان با سوءاستفاده از همین ضعف، ده‌ها بسته آلوده را در مخازن نرم‌افزاری منتشر کرده‌اند که هزاران بار دانلود شده‌اند.

اعتماد به خروجی هوش مصنوعی؛ چالش جدید امنیت سایبری

پژوهشگران هشدار می‌دهند که با گسترش استفاده از هوش مصنوعی در موتورهای جست‌وجو، ابزارهای برنامه‌نویسی و دستیارهای دیجیتال، خروجی این مدل‌ها بیش از گذشته مبنای تصمیم‌گیری کاربران قرار می‌گیرد. در چنین شرایطی، هر دامنه یا لینکی که یک مدل هوش مصنوعی تولید می‌کند، می‌تواند به هدفی بالقوه برای مهاجمان سایبری تبدیل شود.

به اعتقاد پژوهشگران، مقابله با این تهدید تنها با اتکا به سامانه‌های تشخیص بدافزار امکان‌پذیر نیست و کاربران، توسعه‌دهندگان و سازمان‌ها باید پیش از اعتماد به لینک‌های ارائه‌شده توسط ابزارهای هوش مصنوعی، اعتبار آن‌ها را از طریق منابع رسمی بررسی کنند.