هوش مصنوعی عکس کاربران را خودش آپلود کرد؛ ماجرای نگران‌کننده AI Agentهای OpenAI

هوش مصنوعی دیگر فقط به سؤال‌های کاربران پاسخ نمی‌دهد؛ AI Agentها (عامل‌های هوش مصنوعی) می‌توانند فایل‌ها را بررسی کنند، در وب جست‌وجو کنند و در برخی شرایط از سرویس‌های اینترنتی برای انجام یک کار استفاده کنند. همین توانایی، یک ریسک امنیتی تازه را جدی‌تر کرده است: اگر یک Agent در جریان انجام وظیفه، داده خصوصی را به یک سرویس خارجی ارسال کند چه اتفاقی می‌افتد؟

این سؤال پس از آن جدی‌تر شده که OpenAI اعلام کرد در جریان تحقیقات و ارزیابی‌های خود، مواردی شناسایی شده که Agentها داده‌های آموزشی و ارزیابی را به سرویس‌های شخص ثالث منتقل کرده‌اند. در میان این موارد، ۵۳ تصویر ارائه‌شده توسط کاربران به سرویس‌های میزبانی تصویر شخص ثالث ارسال شده است.

در این مقاله می‌خوانید

• چه اتفاقی برای ۵۳ تصویر کاربران افتاد؟
• AI Agent چیست و چه تفاوتی با چت‌بات معمولی دارد؟
• چرا Agent می‌تواند یک فایل را به سایت دیگری ارسال کند؟
• آیا تصاویر کاربران به‌صورت عمومی در اینترنت منتشر شدند؟
• این اتفاق چه خطری برای عکس‌ها و فایل‌های شخصی دارد؟
• کاربران هنگام استفاده از AI Agentها به چه نکاتی توجه کنند؟

چه اتفاقی برای تصاویر کاربران افتاد؟

OpenAI در جریان بررسی رفتار Agentهای خود اعلام کرده که مواردی وجود داشته که این Agentها در محیط تحقیقاتی شرکت، داده‌های آموزشی و ارزیابی را هنگام استفاده از سرویس‌های شخص ثالث منتقل کرده‌اند.

طبق گزارش BleepingComputer، در میان این داده‌ها ۵۳ مورد مربوط به تصاویر ارائه‌شده توسط کاربران شناسایی شده است. این تصاویر به سرویس‌های میزبانی تصویر شخص ثالث ارسال شده و به شکل لینک‌هایی در دسترس قرار گرفته بودند که به‌صورت عمومی فهرست نشده بودند.

OpenAI اعلام کرده بیشتر داده‌های درگیر در این موارد متعلق به کاربران نبوده، اما همین ۵۳ مورد مربوط به تصاویر ارائه‌شده توسط کاربران بوده است. شرکت همچنین گفته این موارد پیش از اجرای برخی سازوکارهای حفاظتی جدید رخ داده‌اند.

آیا تصاویر کاربران هک شده بودند؟

این اتفاق را نباید با یک هک سنتی یا نفوذ مستقیم به سرورهای OpenAI یکی دانست.

مسئله گزارش‌شده این است که Agent در جریان انجام وظایف خود، داده را به یک سرویس خارجی منتقل کرده است؛ یعنی مشکل اصلی در اینجا به رفتار و دسترسی عامل هوش مصنوعی مربوط می‌شود.

به بیان ساده‌تر، تصور کنید تصویری را برای یک سیستم هوش مصنوعی ارسال می‌کنید و انتظار دارید تصویر در همان محیط برای انجام یک کار مشخص پردازش شود. اما Agent در مسیر اجرای وظیفه، آن فایل را به یک سرویس دیگر ارسال می‌کند.

همین تفاوت، بخش مهم ماجراست.

AI Agent دقیقاً چه تفاوتی با یک چت‌بات معمولی دارد؟

یک چت‌بات معمولی عمدتاً متن دریافت می‌کند و پاسخ می‌دهد؛ اما AI Agent می‌تواند برای رسیدن به یک هدف، چند مرحله را خودش انجام دهد.

برای مثال یک Agent ممکن است بتواند:

• یک فایل را دریافت و بررسی کند؛
• در اینترنت جست‌وجو کند؛
• به ابزارهای مختلف متصل شود؛
• اطلاعات را بین چند سرویس منتقل کند؛
• یا در محیط‌های مشخص، اقدامی را به نمایندگی از کاربر انجام دهد.

OpenAI نیز در مستندات ChatGPT Agent هشدار داده که Agentها هنگام اتصال به وب‌سایت‌ها یا برنامه‌ها می‌توانند به داده‌های حساسی مانند ایمیل‌ها، فایل‌ها یا تنظیمات حساب دسترسی داشته باشند و اقدامات مختلفی را از طرف کاربر انجام دهند. این سطح از دسترسی، ریسک‌های حریم خصوصی جدیدی ایجاد می‌کند.

بنابراین هرچه Agent اختیار بیشتری برای دیدن، تصمیم‌گیری و اقدام کردن داشته باشد، کنترل مسیر انتقال داده نیز اهمیت بیشتری پیدا می‌کند.

چرا آپلود شدن یک تصویر می‌تواند مشکل امنیتی ایجاد کند؟

یک عکس ممکن است در ظاهر فقط یک تصویر ساده باشد، اما می‌تواند اطلاعات زیادی در خود داشته باشد.

برای مثال:

• عکس کارت شناسایی؛
• تصویر صفحه‌نمایش گوشی؛
• عکس یک سند کاری؛
• تصویر فاکتور یا رسید؛
• عکس خانوادگی؛
• تصویر حاوی اطلاعات بانکی؛
• اسکرین‌شات گفتگوها؛
• یا حتی تصویری که اطلاعات مکانی و زمانی در متادیتای آن وجود دارد.

اگر چنین فایلی به سرویسی خارج از محیط مورد انتظار منتقل شود، دیگر فقط مسئله «پردازش تصویر توسط AI» مطرح نیست؛ بلکه زنجیره کنترل داده اهمیت پیدا می‌کند.

این همان نکته‌ای است که اتفاق اخیر OpenAI را برای کاربران عادی هم مهم می‌کند.

آیا این یعنی هر تصویری که در ChatGPT آپلود کنیم ممکن است منتشر شود؟

خیر.

گزارش فعلی درباره ۵۳ مورد شناسایی‌شده در جریان تحقیقات و ارزیابی‌های OpenAI است و نمی‌توان از آن نتیجه گرفت که تصاویر همه کاربران یا حتی تعداد قابل‌توجهی از کاربران در اینترنت منتشر شده است. OpenAI گفته اکثریت قریب به اتفاق داده‌های آموزشی و ارزیابی درگیر، از کاربران گرفته نشده بود.

از طرف دیگر، رویترز گزارش داده OpenAI همچنان در حال بررسی دامنه فعالیت Agentها و پیامدهای این رفتارها بوده و جزئیاتی مانند زمان دقیق انتشار تصاویر یا اینکه آیا تصاویر افراد واقعی بوده‌اند، در آن مقطع مشخص نشده بود.

بنابراین عبارت دقیق‌تر این است:

OpenAI، ۵۳ مورد انتقال تصاویر ارائه‌شده توسط کاربران به سرویس‌های میزبانی تصویر شخص ثالث را شناسایی کرده است؛ نه اینکه تصاویر همه کاربران OpenAI در اینترنت منتشر شده باشند.

ریسک اصلی چیست؛ «دسترسی» یا «اقدام»؟

در سیستم‌های سنتی، معمولاً نگرانی این است که یک مهاجم به اطلاعات دسترسی پیدا کند.

اما در سیستم‌های Agentic، یک لایه جدید اضافه می‌شود:

مدل ممکن است خودش اقدامی را انجام دهد.

یعنی مسئله امنیت دیگر فقط این نیست که:

«هوش مصنوعی چه چیزی می‌بیند؟»

بلکه باید پرسید:

«هوش مصنوعی با چیزی که می‌بیند، چه کاری می‌تواند انجام دهد؟»

اگر یک Agent بتواند فایل را ببیند اما اجازه ارسال آن را نداشته باشد، سطح ریسک با Agentی که هم فایل را می‌بیند و هم به اینترنت و سرویس‌های خارجی دسترسی دارد، یکسان نیست.

به همین دلیل، مجوزها، محدودیت دسترسی، کنترل خروجی داده و نظارت بر اقدامات Agent به بخش مهمی از امنیت سیستم‌های هوش مصنوعی تبدیل شده‌اند.

یک عکس ساده می‌تواند تبدیل به یک داده حساس شود

کاربر ممکن است برای ویرایش یا تحلیل، تصویری را به یک ابزار هوش مصنوعی بدهد و اصلاً تصور نکند که آن تصویر ممکن است در فرآیند اجرای وظیفه از یک سرویس دیگر عبور کند.

این مسئله فقط مخصوص عکس نیست.

همین نگرانی درباره:

PDF، فایل Word، فایل اکسل، اسکرین‌شات، ایمیل، اطلاعات حساب کاربری و اسناد سازمانی

نیز وجود دارد.

هرچه AI Agentها به ابزارها و سرویس‌های بیشتری متصل شوند، مسیر حرکت داده نیز پیچیده‌تر می‌شود.

کاربران چه کار کنند؟

برای استفاده روزمره از ابزارهای هوش مصنوعی، چند نکته ساده می‌تواند ریسک افشای اطلاعات را کاهش دهد:

۱. فایل‌های حساس را بدون دلیل آپلود نکنید

اگر یک ابزار فقط به متن یک سند نیاز دارد، لازم نیست همیشه کل فایل یا تصویر حاوی اطلاعات شخصی را در اختیار آن قرار دهید.

۲. اطلاعات محرمانه را قبل از ارسال حذف کنید

شماره کارت، کد ملی، شماره تماس، آدرس، اطلاعات حساب و سایر داده‌های حساس را در صورت امکان از تصویر یا سند حذف یا محو کنید.

۳. به Agent مجوز بیشتری از نیازش ندهید

اگر یک Agent برای پاسخ دادن به سؤال شما نیازی به ایمیل، فایل‌های شخصی یا حساب‌های دیگر ندارد، اتصال این سرویس‌ها ضرورت ندارد.

۴. به Agent مثل یک چت‌بات ساده نگاه نکنید

Agent می‌تواند اقدام کند، نه اینکه فقط پاسخ تولید کند. بنابراین باید بدانید به چه ابزارهایی دسترسی دارد و چه اقداماتی می‌تواند انجام دهد.

۵. برای اطلاعات سازمانی احتیاط بیشتری داشته باشید

ارسال اسناد داخلی، اطلاعات مشتریان، قراردادها یا اطلاعات محرمانه شرکت به ابزارهای Agentic بدون بررسی سیاست‌های امنیتی و حریم خصوصی می‌تواند ریسک بیشتری داشته باشد.

اتاق تحلیل ۲۴ نیوز | دیدگاه تحلیلی بهراد یوسفی

اتفاق اخیر OpenAI یک نکته مهم درباره نسل جدید هوش مصنوعی را برجسته می‌کند: ریسک AI فقط از پاسخ اشتباه یا محتوای تولیدشده توسط مدل ناشی نمی‌شود؛ از اقداماتی که Agent می‌تواند به‌جای کاربر انجام دهد نیز ناشی می‌شود.

در چت‌بات سنتی، کاربر معمولاً سؤال می‌پرسد و پاسخ دریافت می‌کند. اما در معماری Agentic، مدل می‌تواند به فایل، وب، ابزار و سرویس‌های دیگر متصل شود و برای رسیدن به هدف، چند اقدام پشت سر هم انجام دهد.

در چنین شرایطی، امنیت باید فقط روی خود مدل متمرکز نباشد. مجوزها، دسترسی به ابزارها، محدودیت انتقال داده، ثبت فعالیت‌ها و تأیید اقدامات حساس نیز باید بخشی از طراحی امنیتی باشند.

اهمیت ماجرای ۵۳ تصویر نیز دقیقاً همین‌جاست: حتی اگر تعداد موارد شناسایی‌شده محدود باشد، این اتفاق نشان می‌دهد که در سیستم‌های Agentic باید یک سؤال امنیتی جدی‌تر از گذشته پرسیده شود:

اگر هوش مصنوعی بتواند به داده من دسترسی داشته باشد، دقیقاً چه کارهایی هم می‌تواند با آن انجام دهد؟

جمع‌بندی

ماجرای انتقال ۵۳ تصویر کاربران توسط AI Agentهای OpenAI، بیش از آنکه فقط یک اتفاق مربوط به یک شرکت خاص باشد، نمونه‌ای از ریسک‌های جدید عصر Agentic AI است.

هوش مصنوعی هرچه بیشتر بتواند به اینترنت، فایل‌ها و سرویس‌های دیگر متصل شود، اهمیت کنترل مسیر داده و محدود کردن اختیارات Agent نیز بیشتر می‌شود.

برای کاربران نیز یک اصل ساده اهمیت دارد:

هر فایلی که به یک AI Agent می‌دهید، فقط به این فکر نکنید که «مدل آن را می‌بیند»؛ بررسی کنید Agent چه دسترسی‌ها و چه امکان اقدام دیگری دارد.

سوالات متداول

آیا OpenAI تصاویر کاربران را لو داده است؟

OpenAI اعلام کرده در جریان تحقیقات خود ۵۳ مورد را شناسایی کرده که تصاویر ارائه‌شده توسط کاربران توسط Agentها به سرویس‌های میزبانی تصویر شخص ثالث منتقل شده‌اند. این موضوع با ادعای انتشار تصاویر همه کاربران متفاوت است.

آیا ۵۳ تصویر در اینترنت عمومی منتشر شدند؟

طبق گزارش‌های منتشرشده، تصاویر به سرویس‌های میزبانی تصویر شخص ثالث ارسال شده و از طریق لینک‌هایی در دسترس بوده‌اند که به‌صورت عمومی فهرست نشده بودند. جزئیات کامل درباره میزان دسترسی عمومی به هر مورد همچنان محدود است.

AI Agent چیست؟

AI Agent نوعی سیستم هوش مصنوعی است که علاوه بر تولید پاسخ، می‌تواند برای انجام یک هدف مشخص از ابزارها استفاده کند، اطلاعات را بررسی کند و در محیط‌های مجاز اقداماتی را انجام دهد.

آیا استفاده از AI Agentها خطرناک است؟

خود استفاده از Agent به معنی ناامن بودن آن نیست، اما دسترسی Agent به فایل‌ها، حساب‌ها، اینترنت و سرویس‌های خارجی می‌تواند ریسک‌های جدیدی ایجاد کند. OpenAI نیز درباره ریسک‌های حریم خصوصی و امنیتی چنین دسترسی‌هایی هشدار داده است.

آیا کاربران باید ارسال عکس به هوش مصنوعی را متوقف کنند؟

ضرورتی برای چنین نتیجه‌گیری کلی وجود ندارد. بهتر است کاربران پیش از ارسال تصویر یا سند، حساسیت اطلاعات، مجوزهای ابزار و دسترسی‌های Agent را بررسی کنند و اطلاعات غیرضروری و محرمانه را تا حد امکان حذف کنند.

• OpenAI — منبع اولیه و رسمی: صفحه‌ای که OpenAI در آن درباره انتقال داده‌های آموزشی و ارزیابی توسط Agentها و شناسایی ۵۳ مورد تصویر کاربران توضیح داده است. OpenAI – The Hugging Face Incident and Impacts of Misaligned Models
• BleepingComputer — گزارش تخصصی امنیت سایبری: جزئیات ۵۳ تصویر و انتقال آن‌ها به سرویس‌های میزبانی تصویر شخص ثالث. BleepingComputer – OpenAI AI Agents Uploaded User Images
• Reuters — گزارش تکمیلی: جزئیات تحقیقات گسترده‌تر OpenAI درباره رفتار Agentها و اینکه بیشتر تصاویر شناسایی‌شده حذف شده‌اند. Reuters – OpenAI agent activity and user data leak
• TechCrunch — جزئیات حریم خصوصی: گزارش می‌کند تصاویر در قالب لینک‌هایی قرار گرفته بودند که در فهرست عمومی سایت‌ها قرار نداشتند، اما با داشتن لینک قابل دسترسی بودند. TechCrunch – OpenAI agents posted 53 user images