حملات خودکار با هوش مصنوعی؛ چرا واکنش انسانی دیگر کافی نیست؟
گزارش‌های تازه از افزایش استفاده هکرها از عاملهای هوش مصنوعی و سرقت کلیدهای API خبر می‌دهند؛ تهدیدی که می‌تواند نفوذ را سریع‌تر و هزینه قربانیان را بیشتر کند.
گزارش تازه وال‌استریت ژورنال از افزایش استفاده مجرمان سایبری از ابزارهای هوش مصنوعی برای شناسایی اهداف، خودکارسازی حملات و بهره‌برداری از دسترسی‌های سرقت‌شده خبر می‌دهد. در یکی از نمونه‌های اخیر، یک کارآفرین پس از سوءاستفاده از دسترسی‌های مرتبط با ابزار کدنویسی هوش مصنوعی OpenCode با ۴۴۹ دلار هزینه غیرمجاز برای سرویس‌های Anthropic و OpenAI روبه‌رو شد. این رخداد در کنار حملات خودکار به سامانه‌های سازمانی نشان می‌دهد که سرقت اعتبارنامه‌ها و مجوزهای نرم‌افزاری می‌تواند به مهاجمان امکان دهد سریع‌تر عمل کنند و هزینه‌های مالی و عملیاتی بیشتری به قربانیان تحمیل کنند.
متن کامل خبر
هوش مصنوعی سرعت و مقیاس حملات سایبری را افزایش می‌دهد
وال‌استریت ژورنال در گزارشی در ۲۴ اکتبر ۲۰۲۶ اعلام کرده است که مجرمان سایبری بیش از گذشته از ابزارهای هوش مصنوعی برای اجرای عملیات خود استفاده می‌کنند. این ابزارها می‌توانند بخشی از کارهایی را که پیش‌تر به بررسی دستی و زمان بیشتری نیاز داشت، از جمله شناسایی اهداف، تحلیل داده‌ها، بررسی آسیب‌پذیری‌ها و توسعه ابزارهای حمله، سریع‌تر انجام دهند. در نتیجه، مهاجمان می‌توانند فعالیت‌های بیشتری را در زمان کوتاه‌تری پیش ببرند؛ درحالی‌که تیم‌های امنیتی همچنان باید هشدارها را بررسی کنند، میزان خسارت را بسنجند و درباره مسدودسازی دسترسی‌ها تصمیم بگیرند.
این تحول به معنای حذف کامل نقش انسان از حملات سایبری نیست. هوش مصنوعی بیشتر به ابزاری برای افزایش سرعت و مقیاس عملیات تبدیل شده است؛ ابزاری که می‌تواند در کنار روش‌های شناخته‌شده‌ای مانند سرقت اعتبارنامه‌ها، سوءاستفاده از آسیب‌پذیری‌ها و دسترسی غیرمجاز به سامانه‌ها به کار گرفته شود. خطر اصلی زمانی افزایش می‌یابد که مهاجم بتواند چند مرحله از حمله را به‌صورت خودکار به هم متصل کند و بدون نیاز به دخالت مداوم اپراتور، مسیرهای تازه‌ای برای ادامه عملیات پیدا کند.
سرقت دسترسی‌های ابزارهای هوش مصنوعی؛ هزینه‌ای که به قربانی تحمیل می‌شود
یکی از نمونه‌های مطرح‌شده در گزارش وال‌استریت ژورنال به کالین پارسونز، بنیان‌گذار یک استارتاپ، مربوط است. او پس از یک شب با حدود ۵۰ پیام ایمیلی درباره هزینه‌های جدید سرویس‌های Anthropic و OpenAI مواجه شد؛ مجموع این هزینه‌ها به ۴۴۹ دلار رسیده بود. گزارش، این رخداد را در چارچوب سوءاستفاده مهاجمان از دسترسی‌های مرتبط با ابزار کدنویسی هوش مصنوعی OpenCode مطرح می‌کند.
OpenCode یک ابزار کدنویسی مبتنی بر هوش مصنوعی است که بخشی از کاربران آن در سرویس آنلاین OpenCode Console کلیدهای API خود را نگه می‌داشتند. کلید API نوعی اعتبارنامه دیجیتال است که به یک برنامه اجازه می‌دهد از سرویس دیگری، مانند مدل هوش مصنوعی، استفاده کند. اگر چنین کلیدی به دست فرد غیرمجاز برسد، او ممکن است بتواند بدون ورود عادی به حساب کاربر، درخواست‌هایی به سرویس ارسال کند و هزینه استفاده از مدل را به حساب صاحب کلید تحمیل کند.
بر اساس گزارش تکمیلی TechCrunch در ۱۹ اکتبر، OpenCode اعلام کرد رخداد امنیتی بخش آنلاین Console حدود ۱.۴ درصد از کاربران این پلتفرم را تحت تأثیر قرار داده است. این شرکت گفت کاربران متأثر را از طریق ایمیل مطلع کرده است. برخی کاربران نیز از مشاهده هزینه‌های غیرمجاز چندصد دلاری و در مواردی بیش از هزار دلار خبر دادند. شرکت‌های ارائه‌دهنده سرویس‌های هوش مصنوعی برای مسدودکردن کلیدهای در معرض خطر اقدام کردند و OpenAI نیز اعلام کرد برای بازگرداندن دسترسی و بازپرداخت هزینه‌های غیرمجاز با OpenCode همکاری کرده است.
نکته مهم این است که رخداد گزارش‌شده به بخش آنلاین OpenCode Console مربوط بود؛ طبق توضیحات یکی از بنیان‌گذاران شرکت، خود ابزار متن‌باز OpenCode و نسخه خط فرمان آن تحت تأثیر این رخداد قرار نگرفته بودند. همچنین جزئیات کامل چگونگی دسترسی مهاجمان به سامانه قدیمی، نحوه نگهداری کلیدها و تمام موارد سوءاستفاده احتمالی به‌طور عمومی تشریح نشده است. بنابراین نمی‌توان بدون شواهد بیشتر، علت دقیق رخداد را به یک نقص مشخص در کد یا شیوه ذخیره‌سازی اطلاعات نسبت داد.
وقتی هوش مصنوعی حمله را خودکار می‌کند
خطر فقط به سرقت کلیدهای API و افزایش هزینه حساب‌ها محدود نیست. مهاجمان می‌توانند از عاملهای هوش مصنوعی (AI Agents) برای اجرای زنجیره‌ای از وظایف استفاده کنند؛ برای مثال، شناسایی یک هدف، بررسی مسیرهای دسترسی، تحلیل پاسخ سامانه و انتخاب گام بعدی. چنین ساختاری می‌تواند عملیات را از مجموعه‌ای از درخواست‌های جداگانه به فرایندی پیوسته تبدیل کند که در آن برخی تصمیم‌ها و اقدامات به‌صورت خودکار انجام می‌شوند.
نمونه‌ای از این روند در گزارش منتشرشده توسط Microsoft Threat Intelligence درباره فعالیت گروه منتسب به چین با نام Storm-0940 دیده می‌شود. مایکروسافت اعلام کرده است این گروه با استفاده از چارچوب هوش مصنوعی متن‌باز ARTEX و اعتبارنامه‌های سرقت‌شده مرتبط با یک رخداد در ConnectWise، تلاش کرده به بیش از ۲۲۵۰ محیط Microsoft 365 دسترسی پیدا کند. طبق این گزارش، در برخی موارد مهاجمان توانسته‌اند کمتر از سه ساعت پس از هدف‌گیری اولیه، به دسترسی‌های سطح بالا در محیط ابری برسند. مایکروسافت تأکید کرده که این فعالیت ناشی از نفوذ به محصولات یا زیرساخت‌های خود این شرکت نبوده است.
این نمونه نشان می‌دهد که استفاده مهاجمان از هوش مصنوعی لزوماً به معنای کشف یک روش نفوذ کاملاً جدید نیست. گاهی ترکیب اعتبارنامه‌های سرقت‌شده، دسترسی‌های از پیش اعطاشده به برنامه‌های سازمانی و ابزارهای خودکار کافی است تا حمله در مقیاسی بزرگ‌تر و با سرعتی بیشتر اجرا شود. در چنین شرایطی، حتی اگر مهاجم از آسیب‌پذیری تازه‌ای استفاده نکند، دسترسی‌های قدیمی یا بیش‌ازحد گسترده می‌توانند راه ورود او به سامانه‌های سازمانی را باز نگه دارند.
چرا تیم‌های امنیتی برای واکنش با فشار بیشتری روبه‌رو هستند؟
در یک حمله متعارف، تحلیلگران امنیتی باید هشدارها را بررسی کنند، منشأ فعالیت مشکوک را شناسایی کنند، اعتبارنامه‌های در معرض خطر را باطل کنند و از گسترش دسترسی مهاجم جلوگیری کنند. اما اگر مهاجم بتواند هزاران درخواست را به‌صورت خودکار ارسال کند یا در فاصله کوتاهی چند مرحله از حمله را پیش ببرد، رسیدگی صرفاً دستی ممکن است فرصت کافی برای مهار تهدید فراهم نکند.
عامل تعیین‌کننده فقط سرعت تولید کد مخرب نیست؛ سرعت استفاده از دسترسی معتبر نیز اهمیت دارد. فعالیتی که با یک حساب یا کلید معتبر انجام می‌شود ممکن است در نگاه نخست شبیه درخواست عادی یک کاربر یا برنامه سازمانی باشد. به همین دلیل، کنترل امنیتی نباید فقط بر تشخیص بدافزار یا مسدودسازی ورودهای ناموفق تکیه کند؛ رفتار حساب‌ها، برنامه‌های متصل، میزان استفاده از سرویس و تغییرات غیرعادی در سطح دسترسی نیز باید بررسی شوند.
از سوی دیگر، ابزارهای هوش مصنوعی دفاعی نیز می‌توانند به تحلیل رخدادها و اولویت‌بندی هشدارها کمک کنند، اما نباید جایگزین کنترل‌های مستقل امنیتی شوند. اگر یک عامل هوش مصنوعی به اطلاعات حساس یا مجوزهای گسترده دسترسی داشته باشد، خطای آن یا سوءاستفاده از دسترسی‌هایش می‌تواند دامنه خسارت را افزایش دهد. سازمان‌ها باید هم توان تشخیص و واکنش خودکار را تقویت کنند و هم محدودیت‌های مشخصی برای اقدامات مجاز ابزارهای هوش مصنوعی در نظر بگیرند.
کاربران و شرکت‌ها چگونه ریسک سوءاستفاده از ابزارهای AI را کاهش دهند؟
برای توسعه‌دهندگان و کاربران ابزارهای کدنویسی هوش مصنوعی، نگهداری کلیدهای API در محیط‌های امن و جلوگیری از ثبت آن‌ها در مخازن کد عمومی اهمیت اساسی دارد. کلیدهایی که دیگر استفاده نمی‌شوند باید باطل شوند و دسترسی‌های جدید نیز به حداقل مجوز لازم محدود بمانند. فعال‌کردن سقف هزینه، هشدار مصرف غیرعادی و محدودیت دسترسی در پنل ارائه‌دهنده سرویس می‌تواند به شناسایی سریع‌تر سوءاستفاده کمک کند؛ هرچند این کنترل‌ها به‌تنهایی مانع همه حملات نمی‌شوند.
سازمان‌ها نیز باید فهرستی از برنامه‌های متصل به سرویس‌های ابری و هوش مصنوعی داشته باشند و به‌صورت دوره‌ای مجوزهای آن‌ها را بازبینی کنند. اتصال قدیمی یک برنامه به محیط سازمانی نباید صرفاً به دلیل معتبر بودن اولیه آن دائماً فعال بماند. پایش استفاده از کلیدها، بررسی تغییرات غیرعادی در حساب‌های دارای دسترسی بالا و امکان ابطال سریع توکن‌ها و اعتبارنامه‌ها، از اقداماتی است که می‌تواند زمان حضور مهاجم در سامانه را کاهش دهد.
اگر کاربری با هزینه غیرمجاز برای سرویس هوش مصنوعی مواجه شد، باید کلید مشکوک را از طریق پنل رسمی ارائه‌دهنده باطل کند، کلید تازه‌ای بسازد، گزارش مصرف و زمان درخواست‌ها را نگه دارد و موضوع را به پشتیبانی سرویس اطلاع دهد. تغییر رمز عبور به‌تنهایی کافی نیست؛ زیرا کلید API ممکن است مستقل از رمز حساب کاربری همچنان معتبر باشد. در محیط‌های سازمانی نیز لازم است رخداد به تیم امنیت اطلاع داده شود تا احتمال سوءاستفاده از سایر کلیدها، حساب‌ها و سرویس‌های متصل بررسی شود.
اتاق تحلیل ۲۴ نیوز | دیدگاه تحلیلی بهراد یوسفی
مهم‌ترین تغییر در موج جدید حملات سایبری، صرفاً هوشمندترشدن هکرها نیست؛ بلکه کاهش فاصله میان دستیابی به دسترسی اولیه و استفاده عملی از آن است. هوش مصنوعی می‌تواند بعضی وظایف وقت‌گیر را خودکار کند، اما اعتبارنامه‌های سرقت‌شده و مجوزهای بیش‌ازحد همچنان از عوامل اصلی تسهیل نفوذ هستند. رخداد OpenCode نیز یادآوری می‌کند که امنیت ابزارهای هوش مصنوعی فقط به کیفیت مدل یا قابلیت‌های آن وابسته نیست؛ نحوه نگهداری کلیدها، کنترل هزینه‌ها و مدیریت دسترسی به سرویس‌های متصل به همان اندازه اهمیت دارد.
برای کسب‌وکارها، پاسخ مؤثر به این تهدید نباید به خرید یک ابزار هوش مصنوعی دیگر محدود شود. سازمان باید بتواند تشخیص دهد کدام حساب یا برنامه چه دسترسی‌هایی دارد، چه زمانی رفتارش از الگوی معمول خارج شده و چگونه می‌توان دسترسی مشکوک را بدون تأخیر متوقف کرد. در محیطی که حمله ممکن است با سرعت ماشین اجرا شود، پایش پیوسته، حداقل‌سازی مجوزها و واکنش خودکار به نشانه‌های روشن سوءاستفاده باید در کنار تصمیم‌گیری انسانی قرار بگیرند. در نهایت، استفاده امن از هوش مصنوعی از همان نقطه‌ای آغاز می‌شود که هر سامانه دیجیتال امن آغاز می‌شود: مدیریت درست هویت، دسترسی و داده.
