حمله از خط پردازش داده‌ها آغاز شد   

به گزارش هکرنیوز، بر اساس اعلام شرکت Hugging Face، زیرساخت عملیاتی این شرکت اوایل هفته گذشته هدف حمله قرار گرفته بود. این شرکت ضمن شناسایی و مهار این حمله، در بیانیه‌ای مطرح کرد: «ما دسترسی غیرمجاز به مجموعه محدودی از داده‌های داخلی و چندین اعتبارنامه مورد استفاده سرویس‌های خود را شناسایی کردیم.»

در حالی که تحقیقات درباره این نفوذ همچنان ادامه دارد، شرکت Hugging Face اعلام کرد هیچ مدرکی مبنی بر دستکاری مدل‌ها، مجموعه‌داده‌ها، Spaces عمومی یا زنجیره تأمین نرم‌افزاری این شرکت توسط عامل هوش مصنوعی پیدا نشده است. با این حال، نقطه آغاز حمله، خط پردازش داده‌ها بوده است؛ جایی که یک مجموعه‌داده مخرب با سوءاستفاده از دو مسیر اجرای کد، شامل بارگذار مجموعه‌داده با قابلیت اجرای کد از راه دور و یک آسیب‌پذیری تزریق قالب در پیکربندی مجموعه‌داده، موفق شد کد خود را روی یکی از پردازشگرهای سیستم اجرا کند.

مهاجم پس از به‌دست آوردن این دسترسی، سطح دسترسی خود را به سطح گره (Node-level Access) ارتقا داد، اعتبارنامه‌های سرویس‌های ابری و کلاسترها را جمع‌آوری کرد و طی یک آخر هفته به‌صورت جانبی به چندین کلاستر داخلی نفوذ کرد.

هرچند هنوز نوع مدل زبانی بزرگ استفاده‌شده در حمله مشخص نشده است، اما این حمله از طریق یک سامانه عامل خودمختار هوش مصنوعی اجرا شده است.

Hugging Face دسترسی مهاجم را مسدود کرد

شرکت Hugging Face همچنین اقدامات امنیتی انجام‌شده پس از حمله را اعلام کرد. بر این اساس، مسیرهای اجرای کدی که برای دسترسی اولیه مورد سوءاستفاده قرار گرفته بودند، برطرف شده است. علاوه بر این، اقدامات اصلاحی دیگری همچون حذف دسترسی مهاجم از تمامی کلاسترهای آسیب‌دیده و بازسازی گره‌های آلوده، لغو و تعویض اعتبارنامه‌ها و توکن‌های آسیب‌دیده و همچنین تعویض گسترده سایر اطلاعات محرمانه به‌عنوان اقدام پیشگیرانه، استقرار لایه‌های حفاظتی بیشتر و کنترل‌های سخت‌گیرانه‌تر برای دسترسی به کلاسترها، بهبود سامانه‌های شناسایی و هشدار به‌گونه‌ای که تیم‌های پاسخ‌گویی به رخداد به‌صورت ۲۴ ساعته و ظرف چند دقیقه از حملات مطلع شوند، انجام شده است.

این شرکت همچنین از کاربران خواسته است برای افزایش امنیت، توکن‌های دسترسی خود را تعویض کرده و فعالیت‌های اخیر حساب‌هایشان را بررسی کنند.

چرا Hugging Face از مدل چینی GLM 5.2 استفاده کرد؟

Hugging Face همچنین اعلام کرد برای انجام تحلیل‌های جرم‌شناسی دیجیتال از مدل متن‌باز چینی GLM 5.2 متعلق به Z.ai استفاده کرده است؛ زیرا مدل‌های پیشرفته غربی درخواست‌هایی را که شامل فرمان‌های واقعی حمله، کدهای اکسپلویت و داده‌های مرتبط با زیرساخت فرماندهی و کنترل بودند، به دلیل فعال شدن محدودیت‌های امنیتی خود رد می‌کردند و قادر به تشخیص تفاوت میان یک مهاجم و یک تیم قانونی پاسخ‌گویی به رخداد نبودند.

این شرکت اعلام کرد: «این تجربه نشان می‌دهد که باید برای چنین شکافی از قبل برنامه‌ریزی کرد. ما نمی‌دانیم عامل‌های مهاجم از چه مدلی استفاده می‌کردند؛ چه یک مدل میزبانی‌شده که محدودیت‌هایش دور زده شده بود و چه یک مدل متن‌باز بدون محدودیت. در هر صورت، مهاجم به هیچ سیاست استفاده‌ای پایبند نبود، در حالی که تحلیل‌های جرم‌شناسی ما به دلیل محدودیت‌های امنیتی نخستین مدل‌های میزبانی‌شده‌ای که امتحان کردیم، متوقف شد.»

Hugging Face در پایان تأکید کرد: «درس عملی برای مدافعان این است که پیش از وقوع رخداد، یک مدل قدرتمند که روی زیرساخت خودشان قابل اجرا باشد، آماده و ارزیابی‌شده در اختیار داشته باشند تا هم از محدودیت‌های امنیتی مدل‌های میزبانی‌شده عبور کنند و هم از خروج داده‌ها و اعتبارنامه‌های حساس از محیط سازمان جلوگیری شود.»