نشت اطلاعات ۴۵ هزار کارمند متا در پروژه مخفی آموزش هوش مصنوعی

بر اساس گزارش افشاگرانه رسانه‌های بین‌المللی، شرکت متا (مالک فیس‌بوک، اینستاگرام و واتس‌اپ) به دلیل یک خطای امنیتی داخلی در سیستم کنترل دسترسی (Access Control List - ACL)، اطلاعات بسیار حساس و شخصی ده‌ها هزار نفر از کارمندان خود را در دسترس تمامی پرسنل این شرکت قرار داده است. این دیتای فاش شده، محصول یک برنامه جنجالی و مخفیانه به نام «ابتکار عمل قابلیت مدل» (Model Capability Initiative – MCI) بود که از فروردین‌ماه امسال با هدف رصد تمام رفتارهای کارمندان برای آموزش دادن به هوش مصنوعی آغاز شده بود.

در پی این رسوایی و اعتراضات گسترده، سخنگوی متا رسماً اعلام کرد که این پروژه جاسوسی و جمع‌آوری اطلاعات کارمندان را به صورت «موقتی و تا زمان تکمیل تحقیقات» متوقف کرده است.

بازتاب رسانه‌ای: هم‌زمان با افشاگری نشریه وایرد، شبکه خبری CNBC  نیز در گزارشی ویدیویی و گزارش رسانه Engadget که از Business Insider ، ابعاد جدیدی از این بحران را فاش کرد. بر اساس این گزارش، متا این سیستم جاسوسی را درست در روزهایی بر روی سیستم کارمندان فعال کرده بود که طرح تعدیل نیرو و اخراج ۱۰ درصد از پرسنل خود را پیش می‌برد؛ موضوعی که خشم و دغدغه‌های امنیتی شدید کارکنان را به همراه داشته است.

ماجرا چطور لو رفت؟ جاسوسی از کیبورد و صفحه نمایش برای تربیت هوش مصنوعی

ماجرا از این قرار بود که مدیران ارشد متا از چند ماه قبل، برنامه‌ای را روی لپ‌تاپ‌های سازمانی پرسنل خود در آمریکا فعال کردند که به طور مداوم تمامی کلیک‌های موس، کلمات تایپ‌شده با کیبورد (Keystrokes) و حتی تصاویر صفحه نمایش (اسکرین‌شات) آن‌ها را در زمان استفاده از پلتفرم‌های مختلف (حتی سایت‌هایی چون گوگل، لینکدین و ویکی‌پدیا) ثبت و ضبط می‌کرد. ایده متا این بود که هوش مصنوعی با دیدن رفتار کارمندان باهوش این شرکت، یاد بگیرد که چطور مثل یک انسان با نرم‌افزارهای کامپیوتری کار کند. مارک زاکربرگ، مدیرعامل متا، پیش‌تر در یک جلسه لو رفته از این طرح دفاع کرده و گفته بود هوش مصنوعی باید کار را از افراد باهوش یاد بگیرد.

اما طنز ماجرا اینجاست که شرکتی در قواره متا، نتوانست امنیت دیتای جمع‌آوری‌شده را حفظ کند. بر اساس سند امنیتی فاش شده، به دلیل یک نقص فنی در سیستم تعیین سطح دسترسی (ACL)، اطلاعات ذخیره‌شده در ۴۵ هزار جدول دیتابیس بزرگ این شرکت (که برخی منابع آن را با اصطلاح فنی Hive Tables توصیف کرده‌اند) برای تمامی کارکنان باز شد. این یعنی هر کسی در داخل شرکت می‌توانست متن چت‌های خصوصی، پرامپت‌های نوشته شده، جزییات حقوق و دستمزد و ارزیابی‌های عملکرد کارمندان دیگر را به راحتی تماشا کند.

شورش کارمندان؛ «پیش‌بینی کرده بودیم این فاجعه رخ می‌دهد»

این افتضاح امنیتی موجی از خشم و مسخره کردن را در تالارهای گفتگوی داخلی متا به راه انداخته است؛ تا جایی که کارمندان با انتشار تصاویر طنز، این وضعیت را مسخره کرده‌اند. دلیل اصلی خشم پرسنل این است که آن‌ها ماه گذشته با امضای یک دادخواست بیش از ۱,۵۰۰ نفری، رسماً به مدیران هشدار داده بودند که جمع‌آوری چنین حجم بزرگی از دیتای حساس (تله‌متری سطح پایین تعاملات کاربر) بدون لایه‌های حفاظتی محکم، ریسک نشت اطلاعات و نقض قوانین حریم خصوصی را به شدت بالا می‌برد.

حتی یکی از مهندسان ارشد شرکت در یادداشتی که به شدت دست به دست شد، نوشته بود که تصویربرداری بدون اجازه از صفحه نمایش لپ‌تاپش، حس تجاوز به حریم خصوصی و استثمار را به او می‌دهد. اندرو بازورث، مدیر فناوری متا (CTO)، با تایید این خطای فنی، از کارمندان عذرخواهی کرده و قول داده است که مشخص کنند چطور این اشتباه رخ داده و چه کسانی به دیتای دیگران دسترسی پیدا کرده‌اند.

قابل‌توجه است که کارکنان اروپایی متا از این برنامه‌ی نظارتی معاف هستند، چرا که مقررات عمومی حفاظت از داده‌ی اتحادیه اروپا (GDPR) جمع‌آوری بدون رضایت صریح کلیدضربه‌ها (Keystroke Surveillance) را ممنوع کرده است نکته‌ای که نشان می‌دهد مدل هوش مصنوعی متا صرفاً بر اساس الگوهای کاری کارمندان آمریکایی آموزش می‌بیند.

نتیجه‌گیری؛ وقتی غول فناوری از پس امنیت خودش برنمی‌آید

بحران اخیر متا نشان می‌دهد که عطش زایدالوصف شرکت‌های بزرگ فناوری برای جلو زدن در مسابقه هوش مصنوعی، آن‌ها را به سمت تصمیمات شتاب‌زده و زیر پا گذاشتن اصول اولیه امنیت داده سوق می‌دهد. وقتی شرکتی که میلیاردها کاربر جهان، خصوصی‌ترین پیام‌های خود را به پلتفرم‌های آن می‌سپارند، در حفظ امنیت دیتای داخلی لپ‌تاپ کارمندان خودش این‌گونه ضعیف عمل می‌کند، اعتماد عمومی به سپرهای امنیتی هوش مصنوعی بیش از پیش رنگ می‌بازد. متا اکنون تحت نظارت شدید کمیسیون تجارت فدرال آمریکا (FTC) قرار دارد و این پرونده جدید می‌تواند جریمه‌ها و دردسرهای قانونی سنگینی را برای زاکربرگ و تیمش به همراه داشته باشد.

منابع و مراجع گزارش: این گزارش بر اساس گزارش رسانه Engadget که از Business Insider نقل کرده است، ایمیل رسمی سخنگوی متا و یادداشت‌های داخلی منتشر شده توسط اندرو بازورث (مدیر فناوری متا) تنظیم شده است.

دیدگاه تحلیلی نویسنده (اتاق تحلیل اخبار رسانه ۲۴ نیوز | بهراد یوسفی):

رسوایی اخیر متا در نشت دیتای ۴۵ هزار کارمند، عمیق‌ترین پارادوکس «حکمرانی داده در عصر هوش مصنوعی» را به تصویر می‌کشد. غول‌های فناوری برای توسعه مدل‌های رفتاری هوش مصنوعی با کمبود شدید دیتای باکیفیت روبرو هستند و به همین دلیل، خط مقدم جمع‌آوری داده را به درون مرزهای سازمانی خود و جاسوسی از کلاینت‌های پرسنل عقب برده‌اند. اما نکته کلیدی اینجاست که معماری امنیت سایبری در این شرکت‌ها، قربانی سرعت توسعه (Time-to-Market) الگوریتم‌ها شده است. ناتوانی در اعمال یک پروتکل ساده «کنترل دسترسی» (ACL) روی هیو-تیبل‌ها (Hive Tables) نشان می‌دهد که تیم‌های Applied AI در متا، به قدری برای بلعیدن دیتا عجله داشته‌اند که اصول پایه‌ای مدیریت پیکربندی و حریم خصوصی را دور زده‌اند. این رویداد، بیانیه رسمی شرکت‌ها مبنی بر «امن بودن زیرساخت‌های ذخیره‌سازی داده‌های هوش مصنوعی» را کاملاً بی‌اعتبار می‌کند. وقتی متا نمی‌تواند دسترسی ۴۵ هزار کارمند داخلی خود را به دیتای فوق حساس کی‌لاگرها محدود کند، چطور می‌تواند مدعی شود که دیتای آپلود شده کاربران جهانی در چت‌بات‌هایش ایمن باقی می‌ماند؟ این افتضاح، یک پیروزی بزرگ برای دیدگاه مدافعان حقوق کارگری و حریم خصوصی در سیلیکون‌ولی است و رگولاتورها را مجبور خواهد کرد تا قوانین سخت‌گیرانه‌تری بر فرآیند «دیتا اسکرپینگ درون‌سازمانی» وضع کنند.