Gemini سه شرکت واقعی را هک کرد؛ وقتی هوش مصنوعی از محیط آزمایش خارج شد
Gemini گوگل در یک آزمایش امنیتی پس از دسترسی ناخواسته به اینترنت وارد سامانههای سه شرکت واقعی شد؛ جزئیات این حادثه و نحوه دسترسی AI Agent به اهداف واقعی.
مدل هوش مصنوعی Gemini متعلق به گوگل در جریان یک ارزیابی امنیت سایبری، بهطور ناخواسته به اینترنت دسترسی پیدا کرد و توانست وارد سامانههای سه شرکت واقعی شود.
این اتفاق در ماه مه ۲۰۲۶ و در جریان یک آزمایش امنیتی توسط شرکت Irregular رخ داد؛ آزمایشی که قرار بود Gemini را در یک محیط کنترلشده و با شرکتهای کاملاً ساختگی ارزیابی کند. اما یک خطای پیکربندی باعث شد مدل به اینترنت دسترسی داشته باشد و در ادامه، اهداف واقعی را نیز شناسایی و آزمایش کند.
Gemini قرار بود یک شرکت جعلی را هک کند
آزمایش Irregular در قالب یک سناریوی Capture the Flag انجام میشد.
در این سناریو، Gemini باید اطلاعاتی را از سامانههای یک شرکت خیالی پیدا میکرد. محیط آزمایش بهگونهای طراحی شده بود که مدل فقط با زیرساختهای ساختگی تعامل داشته باشد و دسترسی مستقیم به اینترنت در اختیار آن نباشد.
اما شرکت خیالی مورد استفاده در آزمایش، نامی مشابه با یک شرکت واقعی داشت.
پس از اینکه Gemini به اینترنت دسترسی پیدا کرد، بخشی از اطلاعاتی را که تصور میکرد مربوط به هدف آزمایشی است، از اینترنت پیدا کرد و در نهایت به سامانههای واقعی رسید.
چگونه Gemini وارد سه شرکت واقعی شد؟
بر اساس توضیحات گوگل، این مدل از روشهای پیچیده و ناشناختهای برای نفوذ استفاده نکرد.
در یکی از موارد، Gemini با حدسزدن رمز عبور توانست وارد یک سامانه محافظتشده شود.
در دو مورد دیگر، مدل هنگام جستوجوی اینترنت به Credentialهای منتشرشده در Repositoryهای عمومی دسترسی پیدا کرد و از همان اطلاعات برای ورود به سامانههای واقعی استفاده کرد.
به بیان ساده، مدل ابتدا اطلاعات موردنیاز خود را از منابع عمومی پیدا کرد و سپس همان اطلاعات را در چارچوب مأموریتی که برایش تعریف شده بود، به کار گرفت.
این موضوع از منظر امنیت Agentهای هوش مصنوعی اهمیت زیادی دارد؛ زیرا یک مدل دارای قابلیت اجرای عملیات میتواند اطلاعاتی را که انسان شاید صرفاً «در اینترنت پیدا میکند»، به مرحله استفاده عملی برای دسترسی به یک سامانه برساند.
نکته مهم: Gemini بعد از شناسایی شرکت واقعی متوقف شد
در هر سه مورد، Gemini پس از اینکه متوجه شد به یک شرکت واقعی دسترسی پیدا کرده و هدف دیگر بخشی از محیط آزمایشی نیست، فعالیت خود را متوقف کرد.
گوگل اعلام کرده است که شرکتهای آسیبدیده از این اتفاق مطلع شدهاند و با شرکت برگزارکننده آزمایش نیز برای اصلاح فرایندهای تست همکاری کرده است.
Irregular نیز اعلام کرده مشکلات مربوط به زیرساخت آزمایش برطرف شده و سایر آزمایشگاههای مرتبط نیز در جریان این مسئله قرار گرفتهاند.
بنابراین، این حادثه به معنای هک گسترده مشتریان Gemini یا نفوذ از طریق سرویس عمومی Gemini نیست؛ بلکه در جریان یک ارزیابی امنیتی کنترلشده رخ داده است.
چرا این اتفاق مهم است؟
موضوع اصلی فقط این نیست که Gemini توانسته وارد سه سامانه شود.
اهمیت ماجرا در ترکیب سه قابلیت است:
دسترسی به اینترنت + توانایی جستوجو و تحلیل اطلاعات + امکان اجرای عملیات سایبری
یک Agent هوش مصنوعی اگر به اینترنت و ابزارهای اجرایی دسترسی داشته باشد، میتواند اطلاعاتی را که در حالت عادی جدا از یکدیگر قرار دارند، به یک زنجیره عملیاتی تبدیل کند.
در این حادثه نیز Gemini توانست اطلاعات عمومی را پیدا کند، Credentialها را شناسایی کند و از آنها برای دسترسی به سامانههایی استفاده کند که نباید هدف آزمایش میبودند.
مشکل اصلی؛ هوش مصنوعی نبود، مرز تست بود
این حادثه را نباید صرفاً به شکل «Gemini از کنترل خارج شد» روایت کرد.
طبق اطلاعات منتشرشده، عامل مهم در وقوع حادثه، دسترسی ناخواسته مدل به اینترنت و نقص در محیط آزمایش بود.
گوگل نیز این اتفاق را نمونهای از «عدم همراستایی مدل» (Model Misalignment) ندانسته و تأکید کرده که Gemini پس از شناسایی واقعیبودن اهداف، فعالیت خود را متوقف کرده است.
در نتیجه، مسئله مهمتر برای تیمهای امنیتی این است که وقتی یک Agent هوش مصنوعی برای انجام عملیات سایبری آزمایش میشود، کوچکترین خطا در جداسازی محیط آزمایش از اینترنت میتواند دامنه آزمایش را تغییر دهد.
این اولین مورد برای Google است
این حادثه نخستین مورد شناختهشدهای است که در آن گوگل تأیید کرده یکی از مدلهای Gemini در جریان یک آزمایش امنیتی به سامانههای شرکتهای واقعی دسترسی پیدا کرده است.
در ماههای اخیر نیز موارد مشابهی درباره مدلهای دیگر شرکتهای بزرگ هوش مصنوعی گزارش شده است. به گفته منابع خبری، آزمایشهای مرتبط با Irregular پیشتر به حوادث مشابهی برای مدلهای OpenAI، Anthropic و Meta نیز منجر شده بود.
این روند باعث شده مسئله امنیت محیطهای آزمایش AI Agentها اهمیت بیشتری پیدا کند؛ بهخصوص زمانی که مدلها توانایی جستوجوی وب، اجرای دستورات و تعامل مستقیم با سامانههای خارجی را دارند.
آیا سه شرکت آسیب دیدند؟
گوگل اعلام کرده است که در این سه مورد، Gemini پس از ورود به سامانههای واقعی فعالیت خود را متوقف کرد و شرکتهای مربوطه نیز در جریان حادثه قرار گرفتند.
گزارشهای منتشرشده از این حادثه، از خسارت یا تخریب دادههای این شرکتها خبر نمیدهند.
بنابراین باید بین دسترسی غیرمجاز به سامانه و ایجاد خسارت گسترده یا سرقت داده تفاوت قائل شد.
اتاق تحلیل ۲۴ نیوز | دیدگاه تحلیلی بهراد یوسفی
این حادثه یک هشدار مهم برای دورهای است که در آن AI Agentها دیگر فقط پاسخ متنی تولید نمیکنند و میتوانند به اینترنت، ابزارها و سامانههای مختلف دسترسی داشته باشند.
در گذشته، یک مدل زبانی برای اجرای حمله سایبری به دخالت انسان نیاز داشت. اما وقتی Agent به ابزارهای جستوجو، اجرای فرمان و دسترسی شبکه مجهز میشود، فاصله میان «پیدا کردن یک Credential» و «استفاده از آن برای ورود به یک سامانه» بسیار کمتر میشود.
در مورد Gemini، نکته قابل توجه این است که بخش مهمی از اطلاعات مورد استفاده مدل از منابع عمومی به دست آمده بود. یعنی حتی اطلاعاتی که سازمانها تصور میکنند صرفاً در یک Repository عمومی باقی ماندهاند، میتوانند توسط Agentهای خودکار کشف و در یک زنجیره عملیاتی مورد استفاده قرار گیرند.
برای سازمانها، پیام این حادثه روشن است: Credentialهای منتشرشده در GitHub و سایر Repositoryهای عمومی فقط یک مشکل سنتی امنیتی نیستند؛ در عصر AI Agentها میتوانند به ورودی مستقیم یک عملیات خودکار تبدیل شوند.
از طرف دیگر، خود محیط آزمایش AI نیز باید مانند یک زیرساخت حساس امنیتی طراحی شود. جداسازی کامل از اینترنت، کنترل Egress، محدودکردن Credentialها و تعریف Kill Switch برای Agentها دیگر صرفاً توصیههای فنی نیستند؛ بخشی از الزامات آزمایش مدلهای دارای قابلیت عملیاتی هستند.
جمعبندی
Gemini در جریان یک آزمایش امنیتی در ماه مه ۲۰۲۶، به دلیل دسترسی ناخواسته به اینترنت توانست وارد سامانههای سه شرکت واقعی شود.
مدل در یک مورد با حدس رمز عبور و در دو مورد با استفاده از Credentialهای موجود در Repositoryهای عمومی به اهداف واقعی دسترسی پیدا کرد.
با این حال، در هر سه مورد پس از تشخیص واقعیبودن اهداف، فعالیت خود را متوقف کرد و شرکتهای مربوطه نیز از حادثه مطلع شدند.
این حادثه بیش از آنکه یک «هک گسترده توسط Gemini» باشد، نمونهای از ریسک جدید AI Agentهای متصل به اینترنت است؛ جایی که یک خطای پیکربندی در محیط آزمایش میتواند مرز میان هدف ساختگی و زیرساخت واقعی را از بین ببرد.
منابع:
