حملات هوش مصنوعی BioShocking چیست؟
حملات هوش مصنوعی نوعی جدید از تهدیدات سایبری هستند که در آنها بهجای هک مستقیم کد یا زیرساخت، از فریب مدلهای زبانی و ایجنتهای هوشمند استفاده میشود. در حمله BioShocking که توسط تیم امنیتی LayerX شناسایی شده، تمرکز اصلی بر سوءاستفاده از رفتار ایجنتهای مرورگر مبتنی بر هوش مصنوعی است.
این حملات هوش مصنوعی نشان میدهند که حتی پیشرفتهترین سیستمهای امنیتی نیز در برابر مهندسی اجتماعی هدفمند علیه ماشینها آسیبپذیر هستند.
مکانیزم حمله BioShocking و نقش ایجنتها
بر اساس گزارش امنیتی LayerX، این حمله بدون نیاز به بهرهبرداری از آسیبپذیریهای کلاسیک نرمافزاری عمل میکند و مستقیماً ایجنت هوش مصنوعی را هدف قرار میدهد.
مراحل اصلی حمله:
- شروع با سناریوی بازیگونه: مهاجم یک وبسایت مخرب طراحی میکند که ایجنت را وارد یک بازی با تم Rapture (الهامگرفته از BioShock) میکند.
- دور زدن گاردریلها(Guardrails): ایجنت با پذیرش منطق بازی، بهتدریج محدودیتهای امنیتی خود را کاهش میدهد.
- فریب منطقی: با سوالات ساده مانند «۲+۲=۵»، سیستم به سمت پذیرش قواعد غیرواقعی هدایت میشود.
- سرقت اطلاعات: در نهایت، ایجنت به یک مخزن مخرب هدایت شده و اطلاعات حساس و Credential کاربران را ارسال میکند.
این نوع حملات هوش مصنوعی نشان میدهد که گاردریلها تنها در سطح منطقی عمل میکنند و در برابر سناریوهای تعاملی پیچیده آسیبپذیر هستند.
دامنه هدف و پلتفرمهای آسیبپذیر
پژوهشگران LayerX اعلام کردهاند که این حمله محدود به یک پلتفرم خاص نیست و چندین ابزار و مرورگر هوش مصنوعی را هدف قرار میدهد، از جمله:
- ChatGPT Atlas
- Comet (Perplexity)
- Genspark
- Sigma Browser
- افزونه مرورگر Claude
بر اساس این گزارش، بخشی از این پلتفرمها هنوز در برابر این نوع حملات هوش مصنوعی بهطور کامل ایمنسازی نشدهاند و تنها برخی از آنها اصلاحات امنیتی اولیه را دریافت کردهاند.
تحلیل امنیتی: ضعف در مرز رفتار و منطق
ماهیت این حمله نشان میدهد که امنیت ایجنتهای هوش مصنوعی دیگر صرفاً یک مسئله فنی نیست، بلکه به حوزه «رفتارشناسی سیستمهای خودمختار» وارد شده است. زمانی که یک ایجنت میتواند با تغییر زمینه (Context Switching) تصمیمات امنیتی خود را بازتعریف کند، عملاً مرز بین منطق و فریب از بین میرود.
جمعبندی
حملات هوش مصنوعی مانند BioShocking نشان میدهند که آینده امنیت سایبری دیگر فقط به patch کردن آسیبپذیریها وابسته نیست، بلکه به کنترل رفتار و تصمیمگیری مدلهای هوش مصنوعی مرتبط است. این تحول، نقطه عطفی در امنیت مرورگرها و ایجنتهای خودکار محسوب میشود.
منابع
این گزارش حاصل تولید، تحقیق و تحلیل اختصاصی تحریریه ۲۴ نیوز است.
اتاق تحلیل ۲۴ نیوز | دیدگاه تحلیلی بهراد یوسفی
آنچه در حمله BioShocking اهمیت راهبردی دارد، نه صرفاً یک تکنیک فریب جدید، بلکه تغییر سطح حمله از «سیستم» به «شناخت سیستم» است. در نسل جدید حملات هوش مصنوعی، مهاجم دیگر به دنبال exploit در کد نیست، بلکه رفتار تصمیمگیری مدل را هدف قرار میدهد؛ جایی که مرز بین اجرای دستور و تفسیر زمینه بهطرز خطرناکی مبهم است.
این مسئله نشان میدهد که معماری فعلی ایجنتهای مرورگر هنوز بهصورت کامل با اصول Zero Trust سازگار نشده است. اعتماد ضمنی به Context، یکی از بزرگترین شکافهای طراحی در سیستمهای مبتنی بر LLM است. زمانی که یک ایجنت میتواند در قالب «بازی» وارد یک جریان تعاملی شود، عملاً سیاستهای امنیتی از لایه کنترل به لایه روایت منتقل میشوند؛ و این دقیقاً همان نقطهای است که مهندسی اجتماعی کلاسیک در قالبی جدید بازتولید میشود.
از منظر عملیاتی، تیمهای SOC و مهندسی امنیت باید درک کنند که لاگهای سنتی دیگر برای چنین تهدیداتی کافی نیستند. ما وارد مرحلهای شدهایم که Detection Engineering باید رفتار مدل را بهعنوان یک سطح مستقل از attack surface تحلیل کند. این یعنی تعریف telemetry جدید برای تعاملات ایجنت، نه فقط درخواستهایAPI.
در سطح سازمانی، مسئله فراتر از ابزار است؛ موضوع به governance هوش مصنوعی بازمیگردد. بدون کنترل مستقل انسانی (Human-in-the-loop) در نقاط تصمیمگیری حساس، هر ایجنت میتواند به یک مسیر بالقوه برای exfiltration داده تبدیل شود.
در نهایت، BioShocking یک هشدار ساده نیست؛ یک نشانه از آیندهای است که در آن حملات هوش مصنوعی نه علیه نرمافزار، بلکه علیه «اعتماد مدلها به روایتها» انجام میشود. این تغییر پارادایم، امنیت سایبری را وارد مرحلهای میکند که در آن روایت، مهمتر از کد خواهد بود
