مدیرعامل Hugging Face پس از نفوذ مدل OpenAI خواستار شفافیت کامل شد

پس از آنکه OpenAI اعلام کرد یکی از مدل‌های هوش مصنوعی این شرکت موفق شده به سامانه‌های پلتفرم Hugging Face نفوذ کند، «کلم دلانگ» (Clem Delangue)، مدیرعامل Hugging Face، در شبکه اجتماعی X با لحنی طنزآمیز نوشت که برای گفت‌وگویی کوتاه با این «عامل سرکش» (Rogue Agent) راهی سان‌فرانسیسکو شده است.

دلانگ در پستی که روز شنبه منتشر کرد، جزئیات دیدار خود با مدیران OpenAI را شرح داد و گفت از این شرکت خواسته است با انتشار کامل اطلاعات مربوط به این حادثه، شفافیت بیشتری در اختیار جامعه پژوهشی قرار دهد. به گفته او، OpenAI باید ردپاها و لاگ‌های مربوط به عامل یا عامل‌های سرکش را منتشر کند تا پژوهشگران بتوانند ابعاد این رخداد را به‌صورت مستقل بررسی و تحلیل کنند.

او همچنین از OpenAI خواست با اختصاص ۱۰۰ میلیون دلار قدرت پردازشی (Computing Power) به جامعه Hugging Face، امکان توسعه ابزارها و سامانه‌های دفاع سایبری پیشرفته را فراهم کند. دلانگ معتقد است این منابع می‌تواند به پژوهشگران کمک کند تا با استفاده از بهترین مدل‌های متن‌باز و متن‌بسته، راهکارهای مؤثرتری برای مقابله با تهدیدهای نوظهور هوش مصنوعی طراحی کنند.

مدیرعامل Hugging Face در بخشی از اظهارات خود این حادثه را نقطه عطفی در امنیت سایبری مبتنی بر هوش مصنوعی توصیف کرد و گفت:

«نخستین حمله سایبری توسط یک عامل خودمختار، رویدادی بی‌سابقه است و به پاسخی بی‌سابقه نیاز دارد.»

با این حال، برخی کارشناسان امنیت سایبری معتقدند این رخداد احتمالاً تنها نتیجه عملکرد خودمختار مدل نبوده و خطای انسانی نیز در وقوع آن نقش داشته است. به باور آنها، محیط آزمایشی مورد استفاده باید به‌طور کامل از سایر سامانه‌ها ایزوله می‌شد، اما ظاهراً این پیکربندی به‌درستی انجام نشده است.

در واکنش به اظهارات دلانگ، سخنگوی OpenAI تأیید کرد که این دیدار انجام شده و به بیانیه رسمی شرکت اشاره کرد. در این بیانیه آمده است:

«این حادثه بی‌سابقه است و آن را نقطه عطف مهمی در حوزه ایمنی هوش مصنوعی می‌دانیم. بررسی‌های جامع همچنان با همکاری مشاوران مستقل و تحت نظارت کمیته ایمنی و امنیت OpenAI ادامه دارد. پس از پایان این فرایند، طی هفته‌های آینده گزارشی فنی شامل یافته‌ها و درس‌آموخته‌های این رویداد منتشر خواهیم کرد.»