پژوهشگران امنیتی توانسته‌اند با یک جست‌وجوی ساده هزاران لینک اشتراک‌گذاری Muse را پیدا کنند که برخی از آن‌ها حاوی اطلاعات حساس کاربران بوده‌اند. در پی انتشار این گزارش، متا قابلیت اشتراک‌گذاری چت‌های Muse را موقتاً غیرفعال کرده است. در مقابل، OpenAI  نیز قابلیت تازه‌ای به نام Locked Chats  به ChatGPT اضافه کرده است که امکان قرار دادن برخی گفت‌وگوهای حساس پشت یک رمز چهاررقمی را فراهم می‌کند. این قابلیت البته برای محافظت از چت‌ها در برابر افرادی طراحی شده است که به دستگاه یا صفحه کاربر دسترسی دارند و نباید آن را راهکاری برای افزایش حریم خصوصی در برابر خود OpenAI دانست.

لینک‌های اشتراک‌گذاری Muse چگونه فاش شدند؟

در بسیاری از سرویس‌های آنلاین، لینک‌های اشتراک‌گذاری از کدهای طولانی و تصادفی در انتهای آدرس استفاده می‌کنند تا پیدا کردن آن‌ها بدون داشتن لینک اصلی دشوار باشد. اما در طراحی قابلیت اشتراک‌گذاری Muse، عنوان گفت‌وگو و کد اختصاصی آن در بخش «زیردامنه» یا ابتدای آدرس اینترنتی قرار گرفته بود.

پژوهشگران امنیتی دریافتند که پس از کلیک گیرنده روی لینک، نام زیردامنه در سامانه‌های ثبت ترافیک اینترنت موسوم به «DNS غیرفعال» (Passive DNS) ثبت می‌شود. این موضوع امکان جست‌وجوی لینک‌های اشتراک‌گذاری‌شده را بدون در اختیار داشتن لینک اولیه فراهم می‌کرد.

پژوهشگران با یک جست‌وجوی ساده توانستند حدود ۶۸۰۰ لینک اشتراک‌گذاری Muse را شناسایی کنند. بررسی چند صد مورد از این لینک‌ها نیز نمونه‌هایی از اطلاعات حساس را آشکار کرد؛ از جمله گزارش درآمد داخلی یک شرکت بازاریابی، درخواست وام یک کسب‌وکار کوچک به همراه مبلغ آن، تقویم مرخصی کارکنان یک مجموعه، گزارش مالی یک سرمایه‌گذار املاک همراه با آدرس ملک و ارقام وام و هشدارهای مربوط به کلاهبرداری بانکی همراه با اطلاعات حساب و مبالغ.

این یافته نشان می‌دهد که اشتراک‌گذاری یک گفت‌وگوی هوش مصنوعی صرفاً به معنای ارسال متن چت برای یک فرد مشخص نیست و نحوه طراحی لینک می‌تواند بر میزان دسترسی دیگران به آن تأثیر بگذارد.

متا قابلیت اشتراک‌گذاری Muse را متوقف کرد

یکی از پژوهشگران اعلام کرده است که این مشکل را در ۸ اکتبر از طریق برنامه گزارش باگ و همچنین لینکدین به متا اطلاع داده، اما تا زمان رسانه‌ای شدن موضوع پاسخی دریافت نکرده است. پس از انتشار گزارش، متا قابلیت اشتراک‌گذاری گفت‌وگوهای Muse را موقتاً به حالت تعلیق درآورد.

این نخستین بار نیست که امنیت Muse مورد توجه پژوهشگران قرار می‌گیرد. حدود سه هفته پس از عرضه این ابزار نیز یک آسیب‌پذیری روز صفر در آن شناسایی شده بود که می‌توانست به برنامه‌های دیگر اجازه دهد کنترل کامل حساب Muse را به دست بگیرند.

تکرار چنین مواردی اهمیت توجه به حریم خصوصی و امنیت ابزارهای هوش مصنوعی را افزایش داده است؛ به‌خصوص با توجه به اینکه کاربران از چت‌بات‌ها برای موضوعات شخصی، کاری، مالی و حتی اطلاعات محرمانه سازمانی استفاده می‌کنند.

ChatGPT  چگونه از چت‌های حساس محافظت می‌کند؟

در کنار نگرانی درباره نحوه اشتراک‌گذاری عمومی گفت‌وگوهای هوش مصنوعی، OpenAI قابلیتLocked Chats  را به ChatGPT اضافه کرده است. این قابلیت به کاربران اجازه می‌دهد گفت‌وگوهای حساس خود را پشت یک رمز چهاررقمی قرار دهند.

کاربرد اصلی Locked Chats، جلوگیری از مشاهده گفت‌وگوها توسط افرادی است که به دستگاه یا صفحه کاربر دسترسی دارند. بنابراین این قابلیت نباید با سازوکارهای رمزگذاری یا راهکاری برای جلوگیری از دسترسی OpenAI به محتوای گفت‌وگو اشتباه گرفته شود.

برای قفل کردن یک گفت‌وگو، کاربر باید منوی سه‌نقطه کنار آن را باز کرده و گزینه Lock Chat  را انتخاب کند. هنگام قفل کردن نخستین گفت‌وگو، کاربر به تنظیمات هدایت می‌شود و باید یک PIN چهاررقمی برای حساب خود تعیین کند.

پس از قفل شدن، گفت‌وگوی موردنظر از تاریخچه، چت‌های سنجاق‌شده و نتایج جست‌وجو پنهان می‌شود و از مسیر Projects > Locked Chats  در دسترس خواهد بود. در دستگاه‌های موبایل نیز امکان استفاده از روش‌های احراز هویت خود دستگاه، مانند اثر انگشت یا تشخیص چهره، وجود دارد. البته همه گفت‌وگوها قابلیت قفل شدن ندارند و چت‌های موقت، آرشیوشده و گروهی را نمی‌توان با این روش قفل کرد.

فراموشی رمز می‌تواند به حذف دائمی چت‌ها منجر شود

یکی از نکات مهم درباره  Locked Chats، نحوه بازیابی دسترسی است. اگر کاربر رمز خود را فراموش کند و آن را حذف کند، گفت‌وگوهای قفل‌شده برای همیشه حذف می‌شوند و پشتیبانی OpenAI  نیز امکان بازیابی آن‌ها را نخواهد داشت.

این قابلیت برای حساب‌های رایگان و پولی در نظر گرفته شده، اما فعال‌سازی آن به‌صورت تدریجی انجام می‌شود. بنابراین ممکن است گزینه Lock Chat  هنوز برای برخی کاربران نمایش داده نشود.

چگونه از افشای اطلاعات در چت‌بات‌ها جلوگیری کنیم؟

ماجرای Muse نشان می‌دهد که کاربران نباید لینک‌های اشتراک‌گذاری چت‌های هوش مصنوعی را کاملاً خصوصی فرض کنند؛ به‌خصوص زمانی که محتوای گفت‌وگو شامل اطلاعات مالی، شخصی، کاری یا محرمانه است.

برای کاهش ریسک، بهتر است کاربران به‌جای ایجاد لینک عمومی برای چت‌های حساس، متن موردنظر را کپی کرده و از طریق یک پیام‌رسان امن برای فرد موردنظر ارسال کنند. همچنین اگر پیش‌تر گفت‌وگویی حساس را از طریق لینک به اشتراک گذاشته‌اند، باید در صورت امکان دسترسی آن لینک را لغو یا آن را حذف کنند.

در نهایت، استفاده از قابلیت‌هایی مانند Locked Chats  می‌تواند برای جلوگیری از مشاهده گفت‌وگوهای حساس توسط افراد دیگری که به دستگاه کاربر دسترسی دارند مفید باشد؛ اما امنیت چت‌های هوش مصنوعی تنها به قفل کردن صفحه یا گفت‌وگو محدود نمی‌شود. کاربران باید هنگام وارد کردن اطلاعات حساس و همچنین هنگام اشتراک‌گذاری خروجی چت‌بات‌ها، نحوه ذخیره، دسترسی و انتشار آن اطلاعات را نیز در نظر بگیرند.