مرضیه ادهم، پژوهشگر سیاست‌گذاری اینترنت برای کودک و نوجوان، در گفت‌وگو با ۲۴نیوز درباره تهدیدهای ناشی از گسترش استفاده از هوش مصنوعی در زندگی روزمره انسان‌ها سخن گفت. به اعتقاد او، در عصر هوش مصنوعی نمی‌توان این فناوری را به دلیل سوءاستفاده‌های احتمالی از زندگی کودکان حذف کرد؛ بلکه باید با ارتقای سواد رسانه‌ای، افزایش نظارت و کنترل والدین بر فعالیت‌های فرزندان و همچنین اعمال محدودیت‌های لازم در جست‌وجوها، زمینه استفاده آگاهانه، ایمن و مسئولانه از این فناوری را فراهم کرد.

هوش مصنوعی چه تهدیدهای جدیدی برای امنیت و حریم خصوصی کودکان ایجاد کرده که در نسل‌های قبلی اینترنت و شبکه‌های اجتماعی وجود نداشت؟

هوش مصنوعی تفاوت مهمی با دوره شبکه‌های اجتماعی دارد؛ این فناوری محیطی به‌شدت شخصی‌سازی‌شده ایجاد می‌کند. کودک احساس می‌کند با یک دوست صمیمی در حال گفت‌وگو است و به همین دلیل، برای دریافت مشاوره، همدلی یا حتی دوستی، اطلاعات زیادی را در اختیار هوش مصنوعی قرار می‌دهد.

این اطلاعات از چند مسیر می‌تواند به نقض حریم خصوصی منجر شود. نخست آنکه بخشی از این داده‌ها برای آموزش و توسعه مدل‌های هوش مصنوعی مورد استفاده قرار می‌گیرد و همین موضوع می‌تواند نوعی تعرض به حریم خصوصی کودک تلقی شود. علاوه بر این، داده‌های تصویری، صوتی و گرافیکی نیز جمع‌آوری می‌شوند. از آنجا که مدل‌های هوش مصنوعی همچنان در حال آموزش و توسعه هستند، از تعاملات کاربران برای بهبود عملکرد خود بهره می‌برند. این مسئله به یک چالش جهانی تبدیل شده و در بسیاری از موارد هنوز استانداردهای حفظ حریم خصوصی به‌طور کامل رعایت نمی‌شود.

هرچه کودک آموزش کمتری درباره استفاده ایمن از فضای دیجیتال دیده باشد و تعاملات او بدون رعایت ملاحظات امنیتی انجام شود، احتمال نقض حریم خصوصی‌اش افزایش می‌یابد. از سوی دیگر، کودکان اغلب هوش مصنوعی را به‌عنوان یک دوست صمیمی می‌پذیرند و از آن تأثیر می‌گیرند. گاهی توصیه‌هایی که در قالب مشاوره‌های آموزشی یا روان‌شناختی ارائه می‌شود، اثر قابل‌توجهی بر آنها می‌گذارد. کودک، برخلاف یک بزرگسال، معمولاً با نگاه انتقادی به این توصیه‌ها نمی‌نگرد و ممکن است تصور کند هر آنچه هوش مصنوعی با لحنی صمیمانه و دوستانه بیان می‌کند، کاملاً صحیح است. بنابراین، هوش مصنوعی نه‌تنها می‌تواند حریم خصوصی کودکان را تحت تأثیر قرار دهد، بلکه بر فرآیند یادگیری، شکل‌گیری باورها و میزان اعتماد و باورپذیری آنها نیز اثرگذار است.

با گسترش فناوری‌هایی مانند جعل صدا و تصویر (دیپ‌فیک)، خانواده‌ها چگونه می‌توانند از سوءاستفاده از هویت و داده‌های کودکان جلوگیری کنند؟

ابزارهای هوش مصنوعی تولید دیپ‌فیک و جعل صدا و تصویر را به شکل قابل‌توجهی گسترش داده‌اند. یکی از مهم‌ترین نگرانی‌ها در این زمینه، تولید محتوای مرتبط با سوءاستفاده جنسی از کودکان است. این مسئله پیش از ظهور گسترده هوش مصنوعی نیز از جدی‌ترین چالش‌های کودکان در فضای مجازی به شمار می‌رفت، اما اکنون با افزایش چشمگیر سرعت و سهولت تولید چنین محتواهایی، ابعاد نگران‌کننده‌تری پیدا کرده است. برخی گزارش‌ها حتی از رشد چند ده برابری این نوع محتواها خبر می‌دهند. علاوه بر این، جعل صدا و تصویر نیز به دلیل دسترسی آسان‌تر به ابزارهای هوش مصنوعی، بسیار ساده‌تر از گذشته شده است.

با این حال، حذف هوش مصنوعی نه ممکن است و نه راه‌حل مناسبی به شمار می‌رود. ما وارد دوره‌ای جدید از تحول فناوری شده‌ایم که استفاده از ابزارهای هوشمند بخشی جدایی‌ناپذیر از آن است. آنچه اهمیت دارد، تنظیم رابطه کودکان با هوش مصنوعی و آموزش نحوه استفاده صحیح از این فناوری است. باید به کودکان آموزش داد که هوش مصنوعی دوست صمیمی آنها نیست و هر آنچه ارائه می‌کند، لزوماً درست و قابل اعتماد نیست. امروزه برخی افراد هوش مصنوعی را تنها مرجع پاسخ به پرسش‌های خود می‌دانند و برای ساده‌ترین مسائل نیز به آن مراجعه می‌کنند، در حالی که این فناوری بر پایه داده‌ها و الگوهای گذشته عمل می‌کند و نمی‌تواند تنها مرجع آموزش، مشورت یا تصمیم‌گیری باشد.

این موضوع نه‌تنها برای کودکان، بلکه برای بزرگسالان نیز اهمیت دارد. همچنین باید به کودکان آموزش داده شود که هنگام تعامل با هوش مصنوعی تصور نکنند با یک دوست صمیمی یا مشاوری کاملاً بی‌طرف در حال گفت‌وگو هستند و به همین دلیل نباید تمام اطلاعات شخصی خود را در اختیار آن قرار دهند. کودکان باید بدانند که از اشتراک‌گذاری تصاویر، فایل‌های صوتی، اطلاعات مکانی و سایر داده‌های هویتی خود در تعامل با سامانه‌های هوش مصنوعی پرهیز کنند. به بیان دیگر، آموزش شیوه حفاظت از حریم خصوصی در مواجهه با هوش مصنوعی، یکی از مهم‌ترین مهارت‌های مورد نیاز کودکان در عصر دیجیتال است.

تمام این موضوعات در دستورالعمل‌ها و سیاست‌های جدید مرتبط با استفاده از هوش مصنوعی در کشورهای مختلف مورد توجه قرار گرفته است. در نهایت، مؤثرترین راه مواجهه با فناوری، ارتقای سواد رسانه‌ای و دیجیتال است. نمی‌توان این فناوری را حذف، فیلتر یا متوقف کرد؛ بلکه باید با آموزش مستمر، شیوه تعامل با آن را هر روز آگاهانه‌تر، مسئولانه‌تر و حرفه‌ای‌تر کرد.

آیا ابزارهایی برای محافظت از کودکان در برابر تهدیدات استفاده از هوش مصنوعی وجود دارد؟

بله، ابزارهایی مانند قفل کودک، سامانه‌های کنترل والدین، نظارت بر فعالیت‌ها و محدودسازی جست‌وجو در دسترس هستند؛ اما استفاده مؤثر از این ابزارها مستلزم آن است که والدین نیز آموزش ببینند و با فناوری‌ها و قابلیت‌های جدید آشنا شوند. در کنار آن، آموزش سواد رسانه‌ای باید از سنین پایین برای کودکان طراحی و به‌صورت مستمر اجرا شود.

یکی از چالش‌های موجود در کشور ما این است که آموزش رسمی سواد رسانه‌ای معمولاً در پایه‌های بالاتر و دوره متوسطه دوم آغاز می‌شود، در حالی که بخش عمده مواجهه کودکان با رسانه‌ها و فناوری‌های دیجیتال پیش از این دوره شکل گرفته است. به همین دلیل، ضروری است آموزش سواد رسانه‌ای از سال‌های ابتدایی تحصیل و به‌صورت تدریجی و متناسب با سن کودکان ارائه شود.

این آموزش‌ها می‌تواند مهارت‌هایی مانند تشخیص محتوای دیپ‌فیک، تمایز میان تصاویر واقعی و تصاویر تولیدشده توسط هوش مصنوعی و توجه به نشانه‌هایی مانند نورپردازی غیرطبیعی، ناهماهنگی‌های بصری یا جزئیات غیرمعمول را دربر گیرد. همچنین کودکان باید بیاموزند در مواجهه با محتوای جعلی چگونه واکنش نشان دهند، در چه شرایطی موضوع را با والدین یا مراجع مسئول در میان بگذارند و چگونه از تأثیرپذیری بی‌رویه از چنین محتواهایی جلوگیری کنند. توانایی ارزیابی صحت اخبار و مقابله با شایعات نیز از دیگر مهارت‌های ضروری در این زمینه است.

در نهایت، کودک باید یاد بگیرد که هوش مصنوعی دوست صمیمی او نیست، اما می‌تواند به‌عنوان یک ابزار آموزشی و کمک‌آموزشی مفید مورد استفاده قرار گیرد. از این منظر، هوش مصنوعی در دو حوزه اصلی بر کودکان تأثیر می‌گذارد؛ نخست، حریم خصوصی و خطر سوءاستفاده از تصاویر، صدا و اطلاعات شخصی آنان، و دوم، تأثیر آن بر فرآیند یادگیری، شکل‌گیری باورها و گفتمانی که در ذهن کودک ایجاد می‌کند. به همین دلیل، هر دو حوزه از مهم‌ترین زمینه‌های هشدار و توجه در سیاست‌گذاری و آموزش مرتبط با کودکان و هوش مصنوعی به شمار می‌روند.