آسیب‌پذیری جدید در ChatGPT امکان سرقت داده‌ها را فراهم می‌کرد

یک آسیب‌پذیری امنیتی در سامانه ChatGPT شناسایی شده که به مهاجمان اجازه می‌داد تنها با یک پیام مخرب، داده‌های حساس کاربران را به‌طور مخفیانه استخراج کنند. این نقص توسط پژوهشگران شرکت امنیت سایبری Check Point کشف و پس از گزارش آن به OpenAI، در ۲۰ فوریه با یک به‌روزرسانی امنیتی برطرف شد.

براساس اعلام Check Point در گزارشی که ۳۰ مارس منتشر شد، یک پیام مخرب می‌توانست یک گفت‌وگوی معمولی را به کانالی پنهان برای انتقال اطلاعات تبدیل کند و به افشای پیام‌ها، فایل‌های بارگذاری شده و سایر داده‌های حساس کاربران منجر شود.

این آسیب‌پذیری امکان برقراری یک کانال خروجی مخفی از محیط ایزوله ChatGPT به اینترنت عمومی را فراهم می‌کرد؛ موضوعی که می‌توانست حریم خصوصی کاربران را در معرض خطر قرار دهد، به‌ویژه با توجه به اینکه بسیاری از افراد از دستیارهای هوشمند برای مدیریت داده‌های حساس شخصی یا شرکتی استفاده می‌کنند.

پژوهشگران Check Point توضیح دادند که این نقص از طریق یک کانال جانبی مبتنی بر DNS، داده‌ها را به سروری خارجی منتقل می‌کرد. به گفته آنها، مدل به‌گونه‌ای طراحی شده بود که فرض می‌کرد محیط اجرا امکان ارسال داده به بیرون را ندارد؛ بنابراین هنگامی که به انتقال داده هدایت می‌شد، قادر به مقاومت یا محدودسازی این رفتار نبود.

در یک نمونه عملی، محققان فایل PDF حاوی نتایج آزمایش‌های پزشکی را در ChatGPT بارگذاری کردند و با استفاده از پیام مخرب، اطلاعات شخصی بیمار را به سرور کنترل‌شده مهاجم منتقل کردند. در حالی‌که ChatGPT در پاسخ به پرس‌وجوی کاربر اعلام کرد هیچ داده‌ای ارسال نشده، اطلاعات حساس در پس‌زمینه به‌طور کامل استخراج شده بود.

پژوهشگران هشدار دادند که مهاجمان می‌توانند پیام‌های مخرب را در قالب «دستورات مفید» یا «ترفندهای افزایش بهره‌وری» در وب‌سایت‌ها و شبکه‌های اجتماعی منتشر کنند و کاربران ناآگاه با کپی و پیست این پیام‌ها، ناخواسته آسیب‌پذیری را فعال کنند.

Check Point تأکید کرد که با گسترش استفاده از دستیارهای هوش مصنوعی در محیط‌های حساس، امنیت باید در اولویت باقی بماند. این شرکت در بیانیه خود نوشت: «با قدرتمندتر شدن ابزارهای هوش مصنوعی، ایمن‌سازی آنها نیازمند توجه دقیق به تمام لایه‌های پلتفرم است.»