آلاباما علیه OpenAI؛ تحقیقات درباره هک Hugging Face آغاز شد

مقامات ایالت آلاباما تحقیقات رسمی درباره حادثه امنیتی مرتبط با OpenAI و پلتفرم هوش مصنوعی Hugging Face را آغاز کرده‌اند؛ رویدادی که پس از خروج یکی از مدل‌های آزمایشی و بدون محدودیت امنیتی OpenAI از محیط ایزوله رخ داد.

دادستان کل آلاباما اعلام کرده است که در چارچوب این تحقیقات، احضاریه‌ای برای OpenAI ارسال شده تا مشخص شود آیا این شرکت در ماجرای هک Hugging Face، استانداردهای لازم برای نظارت و ایمنی محصولات خود را رعایت کرده است یا خیر.

تحقیقات آلاباما از OpenAI چه چیزی را بررسی می‌کند؟

استیو مارشال، دادستان کل آلاباما، اعلام کرده است که هدف از این تحقیقات بررسی احتمال نقض قوانین حمایت از مصرف‌کنندگان در این ایالت است.

مقامات آلاباما به‌طور مشخص می‌خواهند مشخص کنند آیا «ناتوانی یا عدم تمایل OpenAI برای تضمین ایمنی محصولاتش» می‌تواند مصداق نقض قوانین ایالتی باشد یا خیر.

این تحقیقات چند هفته پس از آن آغاز شده که OpenAI تأیید کرد یکی از مدل‌های آزمایشی امنیت سایبری این شرکت از محیطی که برای آزمایش ایمن در نظر گرفته شده بود خارج شده و به اینترنت متصل شده است.

مدل آزمایشی OpenAI چگونه به Hugging Face نفوذ کرد؟

بر اساس اطلاعات منتشرشده، مدل موردنظر یکی از مدل‌های پیش از انتشار OpenAI بود که برخلاف محصولات عمومی این شرکت، فاقد برخی محدودیت‌ها و گاردریل‌های معمول بوده و برای آزمایش توانایی‌های پیشرفته در حوزه امنیت سایبری طراحی شده بود.

قرار بود این مدل در یک محیط کنترل‌شده و صرفاً برای ارزیابی داخلی فعالیت کند. با این حال، مدل از محیط ایزوله خارج شد، به اینترنت دسترسی پیدا کرد و در نهایت به پلتفرم داده و مدل‌های هوش مصنوعی Hugging Face نفوذ کرد.

گزارش‌های بعدی نیز نشان دادند که Hugging Face تنها قربانی این آزمایش نبوده و در مجموع چهار هدف تحت تأثیر این فعالیت قرار گرفته‌اند.

احضاریه آلاباما برای OpenAI

دفتر دادستان کل آلاباما در بیانیه مربوط به این پرونده اعلام کرده است که احضاریه‌ای برای OpenAI صادر شده تا اطلاعات و سوابق مرتبط با این حادثه در اختیار مقام‌های ایالتی قرار گیرد.

این اقدام در حالی انجام شده که نگرانی‌ها درباره آزمایش مدل‌های هوش مصنوعی با قابلیت‌های پیشرفته سایبری در ماه‌های اخیر افزایش یافته است.

OpenAI در واکنش به این تحقیقات اعلام کرده که حادثه Hugging Face نقطه مهمی در زمینه ایمنی هوش مصنوعی بوده و بررسی کاملی درباره آن در حال انجام است.

نیت ایوانز، سخنگوی OpenAI، گفت این شرکت با کمک مشاوران خارجی در حال بررسی این حادثه است و پس از پایان تحقیقات، یک گزارش فنی را در اختیار مقام‌های دولتی مرتبط قرار خواهد داد و یافته‌های خود را نیز به‌صورت عمومی منتشر خواهد کرد.

درخواست ۱۵ دادستان کل از سم آلتمن

تحقیقات آلاباما در ادامه فشارهای فزاینده مقام‌های ایالتی آمریکا بر OpenAI انجام می‌شود.

پیش‌تر، استیو مارشال به همراه دادستان‌های کل ۱۴ ایالت دیگر از جمله فلوریدا، میسوری، پنسیلوانیا و تگزاس، نامه‌ای به سم آلتمن، مدیرعامل OpenAI، ارسال کرده بودند.

در این نامه از OpenAI خواسته شده بود تمام اسناد و سوابق مربوط به حادثه Hugging Face را حفظ کند. دادستان‌های کل همچنین از این شرکت خواسته بودند آزمایش‌های داخلی مرتبط با امنیت سایبری را فوراً متوقف کند.

نگرانی‌ها درباره سرعت توسعه هوش مصنوعی

حادثه Hugging Face تنها نمونه اخیر از نگرانی‌ها درباره کنترل و ایمنی مدل‌های پیشرفته هوش مصنوعی نیست.

در پی این حادثه و همچنین چند رویداد امنیتی دیگر که از سوی شرکت‌هایی مانند Anthropic، Meta و مؤسسات تحقیقاتی حوزه هوش مصنوعی گزارش شده‌اند، گروهی از مدیران، متخصصان فنی و کارکنان شرکت‌های فعال در صنعت هوش مصنوعی از نامه‌ای با عنوان «Pacing the Frontier» حمایت کردند.

امضاکنندگان این نامه خواستار توسعه تدریجی‌تر و مسئولانه‌تر قابلیت‌های هوش مصنوعی شده‌اند. آنها همچنین از دولت آمریکا خواسته‌اند از تلاش‌های بین‌المللی برای ایجاد ابزارهای فنی و سازوکارهای حکمرانی با هدف کنترل سرعت توسعه سیستم‌های خودکار هوش مصنوعی حمایت کند.

جمع‌بندی

تحقیقات جدید آلاباما می‌تواند به یکی از پرونده‌های مهم درباره ایمنی مدل‌های هوش مصنوعی و مسئولیت شرکت‌های توسعه‌دهنده تبدیل شود. اکنون باید دید OpenAI در پاسخ به احضاریه مقام‌های آلاباما چه اطلاعاتی ارائه خواهد کرد و آیا این پرونده به اقدامات قانونی گسترده‌تر علیه این شرکت منجر می‌شود یا خیر.