جس آساتو، نماینده حزب کارگر در پارلمان بریتانیا، پس از اعتراض به سواستفاده از چت‌بات Grok برای تولید تصاویر غیراخلاقی جعلی، خودش هدف این فناوری قرار گرفت. تصاویر دست‌کاری‌شده و ویدئویی جعلی با محتوای نامناسب از او در شبکه اجتماعی ایکس منتشر شد.

آساتو اعلام کرد گزارش‌های اولیه‌اش به پلتفرم نتیجه‌ای نداشته و پس از ورود وکیلش، محتوای مورد اعتراض حذف شده است. او اکنون پیگیر اقدام حقوقی علیه شرکت سازنده  Grok، یعنی xAI، است و مدعی است استفاده از تصویرش بدون رضایت، حقوق او را نقض کرده است. این پرونده پرسش‌هایی درباره مسئولیت شرکت‌های هوش مصنوعی در قبال سواستفاده از محصولاتشان مطرح می‌کند.

تیلور سوئیفت و راشمیکا ماندانا؛ دو نمونه از آزار با دیپ‌فیک

در ژانویه ۲۰۲۴، تصاویر غیراخلاقی جعلی از تیلور سوئیفت، خواننده آمریکایی، در شبکه‌های اجتماعی منتشر شد و به‌سرعت گسترش یافت. این اتفاق واکنش کاخ سفید و اعتراض گسترده کاربران را به دنبال داشت و بحث درباره ضرورت حمایت قانونی از قربانیان دیپ‌فیک را تقویت کرد.

در نوامبر ۲۰۲۳ نیز ویدئویی دست‌کاری‌شده از راشمیکا ماندانا، بازیگر هندی، منتشر شد. در این ویدئو، چهره او روی تصویر فرد دیگری قرار گرفته بود. پلیس دهلی در ۱۰ نوامبر پرونده‌ای درباره این اتفاق ثبت کرد. این ماجرا نشان داد که دیپ‌فیک می‌تواند برای جعل هویت و خدشه‌دار کردن اعتبار افراد نیز به کار رود.

کدام کشورها برای مقابله با دیپ‌فیک قانون دارند؟

آمریکا: قانون فدرال TAKE IT DOWN Act که در مه ۲۰۲۵ تصویب شد، انتشار بدون رضایت تصاویر خصوصی واقعی یا جعلی را هدف قرار می‌دهد و برای پلتفرم‌های مشمول، تعهداتی در زمینه حذف محتوا ایجاد می‌کند.

بریتانیا: این کشور قوانین مرتبط با سواستفاده از تصاویر خصوصی را گسترش داده و در سال ۲۰۲۶ مقرراتی برای مقابله با ساخت تصاویر غیراخلاقی جعلی و ابزارهای برهنه‌سازی بدون رضایت افراد تصویب کرده است.

کره جنوبی و استرالیا: هر دو کشور برای برخی مصادیق تولید و انتشار محتوای جنسی جعلی بدون رضایت، مجازات کیفری در نظر گرفته‌اند.

اتحادیه اروپا: قانون هوش مصنوعی این اتحادیه، در شرایط مشخص، تولیدکنندگان و استفاده‌کنندگان حرفه‌ای از محتوای دیپ‌فیک را به شفاف‌سازی درباره مصنوعی بودن آن ملزم می‌کند.

در هند نیز از قوانین موجود درباره جعل هویت، حریم خصوصی و جرایم سایبری برای پیگیری برخی پرونده‌های دیپ‌فیک استفاده می‌شود.

خلأ قانونی؛ چالش اصلی مقابله با دیپ‌فیک

با وجود پیشرفت قانون‌گذاری، تعیین مسئولیت شرکت‌های سازنده هوش مصنوعی و پلتفرم‌های منتشرکننده محتوای جعلی همچنان یکی از چالش‌های اصلی است. انتشار سریع تصاویر، دشواری شناسایی عاملان و فعالیت فرامرزی پلتفرم‌ها نیز پیگیری قضایی را پیچیده می‌کند.

دیپ‌فیک می‌تواند زمینه‌ساز آزار، اخاذی، کلاهبرداری و انتشار اطلاعات نادرست شود. مقابله مؤثر با این تهدید به قوانین روشن، سازوکارهای سریع حذف محتوا و مسئولیت‌پذیری شرکت‌های فناوری نیاز دارد. پرونده جس آساتو و نمونه‌های مشابه نشان می‌دهند که حفاظت از حریم خصوصی و هویت دیجیتال افراد باید همگام با پیشرفت هوش مصنوعی تقویت شود.