دستیار هوش مصنوعی Muse که به‌تازگی توسط متا عرضه شده، برای انجام وظایف مختلف کاربران طراحی شده و می‌تواند با سرویس‌هایی مانند ایمیل و سایر ابزارهای دیجیتال تعامل داشته باشد. با این حال، بررسی WIRED از ساختار داخلی این عامل نشان می‌دهد قابلیت‌های آن تنها به انجام وظایف محدود نمی‌شود و Muse می‌تواند تصویری جزئی از روابط و افراد پیرامون کاربر نیز ایجاد کند.

Muse  اطلاعات افراد نزدیک به کاربر را دسته‌بندی می‌کند

بر اساس اطلاعات استخراج‌شده از فایل‌های داخلیMuse ، این سیستم می‌تواند برای افراد مختلف در زندگی کاربر، از اعضای خانواده و دوستان گرفته تا همکاران، صفحات اطلاعاتی ایجاد کند. این صفحات در ابتدا ممکن است اطلاعات محدودی داشته باشند و در طول زمان با اطلاعات جدید تکمیل شوند.

ساختار این پروفایل‌ها می‌تواند بخش‌هایی مانند واقعیت‌های مرتبط با فرد، سابقه و اتفاقات مشترک، وضعیت رابطه، موضوعات مشترک، مسائل در حال پیگیری و حتی پیشنهادهایی برای تقویت رابطه را دربر بگیرد. همچنین امکان ثبت رویدادها و تاریخ‌های مهم، مانند تولد یا سالگرد، در این ساختار پیش‌بینی شده است.

در دستورالعمل‌های Muse همچنین تأکید شده است که اطلاعات ثبت‌شده باید بر اساس شواهد موجود باشد و اطلاعات ساختگی نباید جایگزین داده‌های واقعی شود. به این ترتیب، هدف این قابلیت ذخیره یک نام یا مشخصات تماس نیست، بلکه ایجاد تصویری از ارتباط کاربر با افراد مختلف است.

نگرانی درباره اطلاعات  غیرمستقیم کاربران

یکی از مهم‌ترین نگرانی‌های مطرح‌شده درباره چنین قابلیتی این است که عامل هوش مصنوعی می‌تواند از مجموعه‌ای از اطلاعات موجود، درباره افراد یا روابط میان آنها استنباط کند.

Muse  به‌عنوان یک عامل هوش مصنوعی شخصی، برای یادگیری درباره علایق، اهداف و شرایط کاربر طراحی شده است. متا اعلام کرده که این سیستم می‌تواند اطلاعاتی را که کاربر در اختیارش قرار می‌دهد به خاطر بسپارد و از آنها برای ارائه پیشنهادهای شخصی یا انجام وظایف بعدی استفاده کند.

این موضوع زمانی اهمیت بیشتری پیدا می‌کند که کاربر دسترسی Muse به سرویس‌های مختلف را فعال کند. متا اعلام کرده Muse می‌تواند در محیط اختصاصی خود با سرویس‌هایی مانند ایمیل و دیگر ابزارهای مورد استفاده کاربر تعامل داشته باشد و اطلاعات موردنیاز برای انجام وظایف را در اختیار داشته باشد.

بخشی از اطلاعات مربوط به افراد دیگر ممکن است نه از طریق ارتباط مستقیم آنها با  Muse، بلکه از طریق تعاملات و داده‌های مربوط به کاربر وارد سیستم شود.

متا مدعی شد: کاربر کنترل اطلاعات را در اختیار دارد

کمپانی متا در معرفی Muse تأکید کرده است که کاربر می‌تواند مشخص کند این عامل هوش مصنوعی به کدام سرویس‌ها دسترسی داشته باشد و چه سطحی از دسترسی را دریافت کند. این شرکت همچنین اعلام کرده کاربران می‌توانند اطلاعات ذخیره‌شده در محیط  Muse  را بررسی و حذف کنند و از استفاده تعاملات خود برای آموزش مدل‌های هوش مصنوعی متا نیز انصراف دهند.

بر اساس توضیحات متا، Muse  در یک ماشین مجازی اختصاصی اجرا می‌شود که داده‌ها و اطلاعات مربوط به هر کاربر را از سایر کاربران جدا نگه می‌دارد. این شرکت همچنین اعلام کرده که Muse برای اقدامات حساسی مانند ارسال ایمیل یا انجام خرید، از کاربر تأیید می‌گیرد و سابقه‌ای از فعالیت‌های انجام‌شده در اختیار او قرار می‌دهد.

با این حال، خود متا نیز اذعان کرده که در معماری فعلی، امکان دسترسی کارکنان این شرکت به داده‌های محیط Muse در شرایط لازم برای پشتیبانی، امنیت یا بهره‌برداری از سرویس وجود دارد. این کمپانی اعلام کرده قصد دارد قابلیت Confidential VM را عرضه کند که هدف آن رمزگذاری محیط کاربر با کلیدی است که تنها خود کاربر در اختیار دارد.

هوش مصنوعی چقدر باید درباره روابط انسانی بداند؟

قابلیت جدید Muse نمونه‌ای از تغییر مسیر دستیارهای هوش مصنوعی از چت‌بات‌های پاسخ‌گو به عامل‌هایی است که قرار است زندگی دیجیتال کاربر را بشناسند و بر اساس آن اقدام کنند.

در چنین مدلی، هرچه اطلاعات بیشتری از ایمیل‌ها، تقویم، پیام‌ها، حساب‌ها و تعاملات کاربر در اختیار عامل هوش مصنوعی قرار گیرد، امکان ارائه خدمات شخصی‌تر افزایش پیدا می‌کند؛ اما هم‌زمان حجم اطلاعات حساس و حتی داده‌های مربوط به اشخاصی که به صورت مستقیم کاربر Muse نیستند نیز بیشتر می‌شود.

در حال حاضر چالش اصلی این است که آیا عامل هوش مصنوعی می‌تواند روابط اجتماعی کاربر را نیز به‌عنوان بخشی از اطلاعات موردنیاز برای انجام وظایف خود مدل‌سازی کند.