رسوایی جدید متا؛ Meta AI درباره فرزندان کاربران اطلاعات جمعآوری میکرد
هوش مصنوعی متا با تحلیل پستهای قدیمی به اطلاعات خصوصی خانوادهها رسید؛ جنجال Meta AI و نگرانیها درباره حریم خصوصی کودکان.
یک ویدیوی ظاهراً ساده در اینستاگرام به جنجالی بزرگ درباره حریم خصوصی کاربران و نحوه عملکرد هوش مصنوعی متا تبدیل شد. پس از انتشار این ویدیو و افزایش نگرانی والدین، متا اعلام کرد یکی از قابلیتهای Meta AI را که میتوانست پرسشهایی درباره اطلاعات شخصی کاربران و فرزندانشان پیشنهاد کند، اصلاح کرده است.
ماجرا از دوم سپتامبر آغاز شد؛ زمانی که «کالی رابینز»، وبلاگنویس حوزه والدین و سبک زندگی، ویدیویی را در اینستاگرام منتشر کرد. او در این ویدیو درباره پست قبلی خود صحبت کرد؛ ویدیویی که در آن هنگام رانندگی آواز میخواند و دخترش نیز در صندلی عقب خودرو حضور داشت.
رابینز میگوید پس از انتشار این ویدیو، Meta AI مجموعهای از پرسشهای خودکار و به گفته او «بیش از حد شخصی» را پیشنهاد کرده است. پرسشهایی مانند «کودک حاضر در خودرو چه کسی است؟» و «کالی رابینز کجا زندگی میکند؟»
نگرانی اصلی؛ کنار هم قرار گرفتن اطلاعات پراکنده
به گفته رابینز، زمانی که روی این پرسشهای پیشنهادی کلیک کرد، هوش مصنوعی متا اطلاعات موجود در پستهای قبلی او را کنار هم قرار داد و توانست جزئیات خصوصی بیشتری درباره زندگی او پیدا کند؛ از جمله اطلاعات مربوط به محل زندگی.
او همچنین مدعی شد Meta AI به اطلاعات موجود در حسابهای دیگر اعضای خانواده، از جمله حساب مادرش، نیز رجوع کرده است. رابینز حتی ادعا کرد این ابزار به اطلاعات مربوط به عکسی که تصور میکرد سالها قبل حذف شده بود نیز دسترسی پیدا کرده است.
این ویدیو به سرعت در شبکههای اجتماعی دستبهدست شد و هزاران واکنش به همراه داشت. تعداد لایکهای آن نیز در زمان انتشار گزارش از ۳۰۸ هزار مورد عبور کرده بود.
رابینز درباره این اتفاق گفت که تصور نمیکرد انتشار تکههای بهظاهر بیضرر از زندگی خانوادگی در طول چند سال، در نهایت به هوش مصنوعی اجازه دهد تمام این «ردپاها» را در عرض چند ثانیه کنار هم بگذارد و از آنها اطلاعاتی درباره فرزندان خردسالش استخراج کند.
متا: مشکل را برطرف کردهایم
سخنگوی متا در گفتوگو با CNET تأیید کرد که این قابلیت با مشکل مواجه بوده و شرکت آن را اصلاح کرده است. به گفته متا، Meta AI دیگر نباید پرسشهای نامناسب و بیش از حد شخصی را درباره پستهای کاربران پیشنهاد دهد.
متا همچنین اذعان کرد که این قابلیت در برخی موارد عملکرد مناسبی نداشته است. این شرکت تأکید کرد هدف Meta AI کمک به کاربران برای پیدا کردن اطلاعات بیشتر بر اساس دادههایی است که از قبل به آنها دسترسی دارند.
با این حال، توضیحات متا برای رابینز کافی نبود. او در پست دیگری که ۱۰ سپتامبر منتشر کرد، گفت از اینکه شرکت مشکل را پذیرفته خوشحال است، اما همچنان پرسشهای مهمی دارد.
او پرسید: دقیقاً چه چیزی اصلاح شده است؟ چه سازوکاری در وهله اول شکست خورده بود؟ و اکنون وقتی Meta AI با اطلاعات مربوط به یک کودک مواجه میشود، چه محافظتهایی برای جلوگیری از سوءاستفاده از این دادهها وجود دارد؟
آیا اطلاعات کودکان همچنان در معرض تحلیل هوش مصنوعی است؟
حتی با حذف پرسشهای جنجالی، Meta AI همچنان میتواند بر اساس اطلاعاتی که در اختیار دارد پیشنهادهایی ارائه کند. این اطلاعات ممکن است شامل متنها و تصاویر عمومی موجود در وب یا پستهای قبلی کاربران در شبکههای اجتماعی باشد.
از سوی دیگر، متا ادعای رابینز درباره دسترسی هوش مصنوعی به عکس حذفشده فرزندانش را رد کرده است.
این شرکت به CNET اعلام کرده که تصویر موردنظر درست پیش از ساخت ویدیوی رابینز حذف شده بود، اما به دلیل یک باگ موقت، تصویر برای مدت کوتاهی همچنان قابل مشاهده بوده است.
با این حال، رابینز معتقد است بحث اصلی فراتر از یک عکس است.
او به CNET گفت: «مسئله هیچوقت فقط یک عکس نبود؛ مسئله این بود که هوش مصنوعی اطلاعات مربوط به فرزندان من را از منابع مختلف کنار هم قرار میداد.»
رابینز همچنین میگوید متا تاکنون بهطور مستقیم با او تماس نگرفته و بابت این اتفاق عذرخواهی نکرده است.
جنجال جدید برای سابقه پرحاشیه متا در حوزه حریم خصوصی
این اتفاق در حالی رخ داده که متا طی سال جاری با انتقادها و پروندههای حقوقی متعددی درباره تأثیر محصولاتش بر کودکان مواجه بوده است. برخی از این پروندهها به موضوعاتی مانند اعتیاد به شبکههای اجتماعی و ایجاد محیطهایی مربوط میشوند که میتوانند کودکان را در معرض خطر سوءاستفاده قرار دهند.
همزمان، عینکهای هوشمند متا و فناوری تشخیص چهره مورد استفاده در آنها نیز با انتقادهایی روبهرو شدهاند.
متا اخیراً عرضه عاملهای هوش مصنوعی Muse را نیز آغاز کرده است؛ ابزارهایی که این شرکت آنها را بهعنوان راهکاری برای ارائه تجربههای شخصیسازیشدهتر و دستیارهای هوش مصنوعی معرفی میکند.
ماجرای اخیر بار دیگر یک پرسش مهم را مطرح کرده است: وقتی کاربران سالها اطلاعات شخصی خود، تصاویر اعضای خانواده و جزئیات زندگی روزمرهشان را در شبکههای اجتماعی منتشر میکنند، هوش مصنوعی تا چه اندازه میتواند این اطلاعات پراکنده را به یک تصویر کامل از زندگی آنها تبدیل کند؟
این نگرانی بهویژه درباره کودکان جدیتر است؛ زیرا بسیاری از والدین ممکن است بدون آنکه بدانند، حجم قابلتوجهی از اطلاعات قابل تحلیل درباره فرزندانشان را در فضای آنلاین منتشر کرده باشند.
