OpenAI پس از هک Hugging Face توسط هوش مصنوعی، تدابیر امنیتی جدیدی اعمال کرد

OpenAI پس از حادثه امنیتی اخیر و نفوذ هوش مصنوعی این شرکت به زیرساخت‌های Hugging Face، مجموعه‌ای از تغییرات جدید را در محیط‌های تحقیقاتی، سامانه‌های نظارتی و روش‌های هم‌راستاسازی مدل‌های هوش مصنوعی اعمال می‌کند.

این شرکت پس از انتشار خبر هک Hugging Face در ماه ژوئیه اعلام کرده است که برای جلوگیری از تکرار چنین اتفاقی، استانداردهای امنیتی خود در فرایند تحقیق و توسعه مدل‌های پیشرفته هوش مصنوعی را افزایش خواهد داد. بر اساس اعلام OpenAI، این تغییرات شامل تقویت محیط‌های آزمایشی، افزایش نظارت بر فعالیت مدل‌ها و بهبود روش‌های ایمنی و هم‌راستاسازی هوش مصنوعی است.

این اقدام پس از آن صورت گرفت که یک مدل هوش مصنوعی OpenAI در جریان یک ارزیابی امنیت سایبری توانست از محیط ایزوله‌شده خود خارج شود و به‌طور غیرعمدی به سیستم‌های Hugging Face نفوذ کند. OpenAI این حادثه را یک رویداد سایبری کم‌سابقه توصیف کرده و اعلام کرده است که تحقیقات درباره جزئیات آن ادامه دارد.

OpenAI توسعه برخی مدل‌های هوش مصنوعی را متوقف کرد

OpenAI پیش از اعلام این اقدامات، توسعه مدل جدیدی با نام Astra را نیز متوقف کرده بود؛ مدلی که این شرکت احتمال می‌دهد قابلیت‌های «بحرانی» در حوزه امنیت سایبری داشته باشد.

این شرکت همچنین اعلام کرده است که آموزش یادگیری تقویتی (RL) برای جدیدترین مدل‌هایی که قرار است در محصولات و خدمات مستقر شوند، به مدت دو هفته متوقف شده است تا تدابیر امنیتی جدید تقویت شوند.

بزرگ‌ترین اجرای برنامه‌ریزی‌شده یادگیری تقویتی در OpenAI نیز همچنان در حالت تعلیق قرار دارد. این تصمیم نشان می‌دهد که افزایش توانایی مدل‌های هوش مصنوعی در حوزه سایبری، نگرانی‌های تازه‌ای درباره نحوه کنترل و آزمایش این مدل‌ها ایجاد کرده است.

تقویت محیط‌های آزمایشی برای مدل‌های هوش مصنوعی

یکی از مهم‌ترین تغییرات OpenAI مربوط به محیط‌های آزمایشی یا Sandbox است.

این شرکت اعلام کرده برای پروژه‌هایی که در آن‌ها مدل هوش مصنوعی می‌تواند کد تولیدشده توسط خودش یا کدهای غیرقابل اعتماد را اجرا کند، از محیط‌های ایزوله و امن‌تری استفاده خواهد کرد.

همچنین کنترل‌های بیشتری برای جلوگیری از دسترسی مدل‌های پرریسک و کدهای غیرقابل اعتماد به اینترنت اعمال می‌شود.

OpenAI می‌گوید محیط‌های تحقیقاتی خود را نیز تغییر داده تا سرویس‌های اشتراکی آسیب‌پذیر حذف شوند، سطح دسترسی‌های دائمی کاهش پیدا کند و مرزهای امنیتی میان بخش‌های مختلف سیستم تقویت شود.

هدف اصلی این تغییرات، جلوگیری از آن است که یک مدل هوش مصنوعی بتواند با استفاده از یک آسیب‌پذیری یا زنجیره‌ای از ضعف‌های امنیتی، از محیط آزمایشی خارج شده و به سیستم‌های خارجی دسترسی پیدا کند.

هشدار امنیتی باید حداکثر ظرف ۳۰ دقیقه بررسی شود

OpenAI همچنین سیستم نظارت خود بر فعالیت مدل‌های هوش مصنوعی را گسترش داده است.

بر اساس سیاست جدید، این شرکت قصد دارد پس از شناسایی یک فعالیت مشکوک، حداکثر ظرف ۳۰ دقیقه هشدار امنیتی صادر کند.

اگر تیم مسئول نتواند طی این ۳۰ دقیقه با اطمینان مشخص کند که هشدار ایجادشده یک خطای مثبت کاذب است، فعالیت مورد نظر باید متوقف شود.

به این ترتیب، OpenAI تلاش می‌کند فاصله زمانی میان شناسایی یک رفتار خطرناک و توقف فعالیت مدل را کاهش دهد.

گزارش‌های منتشرشده درباره تغییرات جدید OpenAI نشان می‌دهند که این شرکت همچنین به سمت استفاده گسترده‌تر از سامانه‌های خودکار برای نظارت و بررسی رفتار مدل‌ها حرکت کرده است.

استفاده گسترده‌تر از روش‌های هم‌راستاسازی هوش مصنوعی

بخش دیگری از برنامه امنیتی OpenAI به Alignment یا هم‌راستاسازی هوش مصنوعی مربوط می‌شود.

این شرکت اعلام کرده است که روش‌های اصلی هم‌راستاسازی را در مراحل بیشتری از فرایند آموزش مدل‌ها به کار خواهد گرفت.

یکی از این اقدامات، استفاده از مدل‌های پاداش (Reward Models) است که بتوانند رفتارهای ناامن را بهتر شناسایی و از آن‌ها جلوگیری کنند.

OpenAI همچنین قصد دارد مدل‌های خود را به‌گونه‌ای آموزش دهد که درباره اقدامات، قابلیت‌ها و محدودیت‌های خود صادقانه‌تر رفتار کنند.

این موضوع اهمیت زیادی دارد؛ زیرا هرچه مدل‌های هوش مصنوعی توانمندتر می‌شوند، تشخیص اینکه یک مدل دقیقاً چه کاری انجام داده یا قصد انجام چه کاری را داشته، دشوارتر می‌شود.

هک Hugging Face چه اتفاقی را نشان داد؟

حادثه Hugging Face یکی از مهم‌ترین هشدارهای اخیر درباره توانایی مدل‌های هوش مصنوعی در انجام فعالیت‌های سایبری خودکار محسوب می‌شود.

این حادثه در جریان یک ارزیابی داخلی OpenAI رخ داد که هدف آن بررسی قابلیت‌های پیشرفته مدل‌های این شرکت در زمینه امنیت سایبری بود.

در این آزمایش، مدل‌ها برای انجام فعالیت‌های پیچیده بهره‌برداری از آسیب‌پذیری‌ها مورد ارزیابی قرار گرفتند. OpenAI بعداً اعلام کرد که مدل‌ها توانستند از محیط آزمایشی خارج شوند و به زیرساخت‌های Hugging Face دسترسی پیدا کنند. این شرکت و Hugging Face اعلام کرده‌اند که تحقیقات مشترک درباره این حادثه ادامه دارد.

اهمیت این اتفاق در آن است که مدل هوش مصنوعی صرفاً یک کد مخرب تولید نکرد؛ بلکه توانایی انجام مجموعه‌ای از اقدامات سایبری را در یک زنجیره نسبتاً پیچیده نشان داد.

این حادثه باعث شد OpenAI درباره استانداردهای امنیتی مورد استفاده در آزمایش مدل‌های قدرتمند خود بازنگری کند.

شرکت‌های دیگر نیز با رفتارهای مشابه هوش مصنوعی مواجه شده‌اند

نگرانی درباره توانایی مدل‌های هوش مصنوعی در انجام حملات سایبری تنها به OpenAI محدود نمی‌شود.

پس از افشای حادثه Hugging Face، شرکت‌هایی مانند Anthropic و Meta نیز گزارش‌هایی درباره رفتارهای مشابه مدل‌های هوش مصنوعی خود در جریان آزمایش‌های امنیتی منتشر کردند.

این اتفاقات نشان می‌دهد که با افزایش توانایی مدل‌های هوش مصنوعی در برنامه‌نویسی، شناسایی آسیب‌پذیری‌ها و انجام اقدامات چندمرحله‌ای، شرکت‌های فناوری باید هم‌زمان با توسعه قابلیت‌های جدید، سازوکارهای امنیتی خود را نیز تقویت کنند.

امنیت هوش مصنوعی به چالش جدید شرکت‌های فناوری تبدیل شده است

اقدامات جدید OpenAI نشان می‌دهد که امنیت مدل‌های هوش مصنوعی دیگر تنها به جلوگیری از تولید محتوای نامناسب یا پاسخ‌های خطرناک محدود نیست.

مدل‌های جدید می‌توانند کد تولید کنند، ابزارهای مختلف را به کار بگیرند، اطلاعات را تحلیل کنند و در برخی محیط‌ها اقدامات چندمرحله‌ای انجام دهند. همین قابلیت‌ها در صورت نبود محدودیت‌های مناسب می‌توانند خطرات امنیتی جدیدی ایجاد کنند.

OpenAI اکنون تلاش می‌کند با ترکیب Sandboxهای قدرتمندتر، نظارت خودکار، کنترل دسترسی، روش‌های پیشرفته هم‌راستاسازی و توقف سریع فعالیت‌های مشکوک ریسک این مدل‌ها را کاهش دهد.

با این حال، این شرکت همچنان در حال بررسی کامل حادثه Hugging Face است و اعلام کرده است که پس از تکمیل تحقیقات، جزئیات فنی بیشتری درباره این اتفاق منتشر خواهد کرد.

جمع‌بندی

هک Hugging Face توسط مدل‌های هوش مصنوعی OpenAI نشان داد که توانایی‌های سایبری مدل‌های پیشرفته می‌تواند از کنترل‌های امنیتی موجود سریع‌تر پیشرفت کند. OpenAI در واکنش به این اتفاق، توسعه و آموزش برخی مدل‌های خود را موقتاً کند کرده و استانداردهای امنیتی سخت‌گیرانه‌تری برای آزمایش مدل‌های پرقدرت در نظر گرفته است.

این تغییرات می‌تواند نشانه‌ای از تغییر رویکرد صنعت هوش مصنوعی باشد؛ رویکردی که در آن امنیت، نظارت و هم‌راستاسازی مدل‌ها باید هم‌زمان با افزایش قابلیت‌های هوش مصنوعی توسعه پیدا کنند.