صعود هوش مصنوعی در جست‌وجوی کودکان 

کمتر از دو هفته دیگر تعطیلات تابستانی در کشورمان تمام می‌شود و دانش‌آموزان به احتمال زیاد در کنار جست‌وجوی اینترنتی برای انجام تکالیف مدارس، یادگیری زبان و سایر دروس، بیش از گذشته به مدل‌های هوش مصنوعی مراجعه خواهند کرد. هرچند در ایران آمار دقیقی درباره میزان استفاده از انواع هوش مصنوعی به تفکیک سن و جنس وجود ندارد، اما داده‌های مربوط به دسترسی کودکان و نوجوانان به اینترنت و ابزارهای هوشمند نشان می‌دهد که زیرساخت لازم برای گسترش استفاده از این فناوری در میان دانش‌آموزان ایرانی فراهم است.

بر اساس گزارش شورای عالی فضای مجازی، ۷۵.۱ درصد کودکان و نوجوانان ۶ تا ۱۵ ساله به اینترنت دسترسی دارند. همچنین بر اساس یافته‌های این گزارش، نزدیک به ۹۰ درصد کودکان و نوجوانان ۶ تا ۱۵ ساله از تلفن همراه هوشمند، تبلت یا لپ‌تاپ استفاده می‌کنند و ۸۵ درصد از کاربران این دستگاه‌ها نیز به اینترنت متصل می‌شوند.

این گسترش حضور کودکان در فضای آنلاین در شرایطی رخ می‌دهد که بسیاری از خانواده‌ها هنوز از ابزارهای تخصصی نظارت و آموزش مهارت‌های امنیت دیجیتال استفاده نمی‌کنند؛ موضوعی که می‌تواند بیش از پیش کودکان را در معرض تهدیدهایی مانند فیشینگ، سرقت اطلاعات، محتوای نامناسب و سوءاستفاده‌های آنلاین قرار دهد. اهمیت مدیریت و نظارت بر استفاده کودکان از هوش مصنوعی زمانی بیشتر می‌شود که داده‌های بین‌المللی نیز افزایش حضور و نقش این فناوری را در زندگی کودکان تأیید می‌کند.

شرکت کسپرسکی در گزارش سالانه خود درباره علایق دیجیتال کودکان اعلام کرده است که ابزارهای هوش مصنوعی و دستیارهای آموزشی مبتنی بر این فناوری در سال ۲۰۲۶ به یکی از دسته‌های مهم جست‌وجوی کودکان تبدیل شده‌اند. تا جایی که جست‌وجوهای مرتبط با ابزارها و سرویس‌های هوش مصنوعی در میان کودکان از رتبه ششم به رتبه سوم صعود کرده‌اند. همچنین کسپرسکی در گزارش دیگری درباره داده‌های مربوط به خاورمیانه، سهم ابزارها و سرویس‌های هوش مصنوعی در جست‌وجوهای گوگل کودکان را حدود یک‌چهارم از مجموع جست‌وجوها اعلام کرده است.

راهکارهای استفاده امن دانش‌آموزان از هوش مصنوعی

هم‌زمان با گسترش استفاده از ابزارهای هوش مصنوعی در دنیا، این فناوری به بخشی از ابزارهای روزمره یادگیری کودکان ایرانی هم تبدیل شده است. بر اساس تحلیل شرکت کسپرسکی نیز، کودکان در دنیا ممکن است از چت‌بات‌ها برای فهم یک موضوع دشوار، ایده‌پردازی برای مقاله، بازبینی متن، حل تکالیف یا تهیه ارائه استفاده کنند. در مقابل، پاسخ‌های این ابزارها نیز ممکن است حاوی اطلاعات نادرست، منابع جعلی یا استدلال‌های اشتباه باشند.

در این شرایط، گسترش استفاده کودکان از هوش مصنوعی صرفاً یک موضوع آموزشی نیست و به سواد دیجیتال و امنیت سایبری نیز مرتبط است. کسپرسکی نیز در گزارش اخیر خود راهکارهایی برای استفاده مناسب از هوش مصنوعی، راستی‌آزمایی چت‌بات‌ها و حفاظت از اطلاعات شخصی به والدین ارائه داده است.

خطاهای هوش مصنوعی را بشناسید

بر این اساس، والدین ابتدا باید پیش از راهنمایی فرزندان خود بدانند که این فناوری چگونه کار می‌کند و چه محدودیت‌هایی دارد. بعد از آن باید شروع کنند با آن‌ها درباره خطاهای هوش مصنوعی صحبت کنند. حتی زمانی که یک چت‌بات بر اساس اطلاعات دقیق کار می‌کند، ممکن است همان اطلاعات را به شکلی گمراه‌کننده ارائه دهد؛ بخشی از اطلاعات را حذف کند، روی قسمت اشتباهی تأکید کند یا به نتیجه‌ای مشکوک برسد.

یکی دیگر از خطاهای هوش مصنوعی مرتبط با زبانی است که از آن استفاده می‌کنند. با توجه به اینکه بیشتر داده‌هایی که مدل‌های بزرگ با آن‌ها آموزش دیده‌اند به زبان انگلیسی هستند، عملکرد این مدل‌ها در زمان طرح مسئله به زبانی غیر از انگلیسی پایین می‌آید. این شکاف به‌ویژه در حوزه‌هایی مانند علوم، پزشکی، فناوری و حقوق بیشتر دیده می‌شود؛ زیرا حجم مطالب باکیفیت انگلیسی‌زبان در این حوزه‌ها بسیار بیشتر است.

علاوه بر این، چت‌بات‌ها با افزایش حجم اطلاعاتی که در اختیار آن‌ها قرار می‌دهید، ممکن است عملکردشان ضعیف‌تر شود. مطالعات نشان می‌دهند هرچه متن و داده بیشتری در اختیار مدل قرار گیرد، حفظ جزئیات، ارتباط دادن اطلاعات بخش‌های مختلف یک گفت‌وگو و پاسخ‌گویی به پرسش‌هایی که به درک عمیق نیاز دارند، برای مدل دشوارتر می‌شود. همچنین، بهتر است فقط درباره آنچه هوش مصنوعی می‌گوید سؤال نکنید، بلکه به نحوه طرح سؤال نیز توجه داشته باشید.

هوش مصنوعی باید دستیار یادگیری باشد

یکی از توصیه‌های کلیدی والدین به فرزندانشان در زمان استفاده از هوش مصنوعی باید این باشد که از این ابزار برای بهبود فرایندهای یادگیری استفاده کنند، نه اینکه این ابزار جایگزین یادگیری شود. در این زمینه، کودکان باید بدانند که سپردن کامل نوشتن یک مقاله به هوش مصنوعی یا حل معادلات بدون بررسی دوباره نتیجه، مسیر درستی نیست.

بررسی‌ها نشان داده‌اند که هوش مصنوعی می‌تواند بدون آنکه مانع یادگیری شود، در توضیح موضوعات دشوار و بررسی اشتباهات کمک‌کننده باشد. برای مثال، مدل‌های هوش مصنوعی می‌توانند به‌جای انجام تمام تکالیف دانش‌آموز، نقش یک معلم را برای او ایفا کنند. این ابزار با پرسیدن سؤال، پیدا کردن نقاط ضعف و ارائه بازخورد به دانش‌آموز، به او در رسیدن به پاسخ کمک می‌کند.

راستی‌آزمایی پاسخ‌های هوش مصنوعی

یکی از وظایف والدین در نظارت بر استفاده کودکشان از هوش مصنوعی، راستی‌آزمایی پاسخ‌هاست. آن‌ها در ابتدا باید از اینکه کودکشان به هر خروجی چت‌بات‌ها بدون بررسی اعتماد ندارد، مطمئن باشند. در قدم بعدی هم باید یک پاسخ چت‌بات را همراه با کودک بررسی کنند. پاسخ را به گزاره‌های جداگانه تقسیم کنند و درباره هرکدام سؤال بپرسند: این تاریخ یا عدد از کجا آمده است؟ آیا هوش مصنوعی به شخص، نشریه یا مطالعه مشخصی استناد کرده است؟ آیا واقعاً آن فرد چنین جمله‌ای گفته است؟ اگر چت‌بات لینکی ارائه کرده، آن را باز کنید و بررسی کنید که هوش مصنوعی تا چه اندازه محتوای منبع را درست منتقل کرده است.

والدین باید در همین فرایند، کیفیت خود منبع را نیز بررسی کنند. اگر مطلبی با لحنی بیش از حد احساسی نوشته شده یا ادعاهای بزرگی را بدون ارائه شواهد مطرح می‌کند، بهتر است اطلاعات را از منبع دیگری نیز بررسی کنند.

چند گام برای کاهش خطر افشای اطلاعات دانش‌آموز

گزارش کسپرسکی علاوه بر استفاده مناسب از ابزارهای هوش مصنوعی در مسیر آموزش کودکان، بر حفظ امنیت حساب و اطلاعات آن‌ها تأکید کرده است. تغییر تنظیمات حریم خصوصی چت‌بات، به‌روزرسانی رمز عبور، فعال‌سازی احراز هویت دو مرحله‌ای، استفاده از قابلیت‌های ضد فیشینگ و اطلاع از نوع و نحوه تعامل با ابزار، از جمله راهکارهای کسپرسکی برای کاهش خطر افشای اطلاعات کودک و افزایش امنیت حساب اوست.

در همین راستا، والد به فرزندش هشدار بدهد که نام، آدرس منزل، نام مدرسه یا هرگونه اطلاعات حساس دیگری را با چت‌بات به اشتراک نگذارد. دست‌کم قابلیت حافظه و گزینه‌هایی مانند «بهبود مدل» یا استفاده از داده‌ها برای آموزش را غیرفعال کنند.

استفاده از مدیر رمز عبور رمزنگاری‌شده و فعال‌سازی احراز هویت دومرحله‌ای در جلوگیری از هک حساب شخصی کودک لازم است. احراز هویت دو مرحله‌ای یک لایه امنیتی اضافی برای افرادی ایجاد می‌کند که قصد ورود به حساب کودک را دارند. حتی به‌جای استفاده از شماره تلفن به‌عنوان عامل دوم، بهتر است از کدهای ورود تولیدشده و به‌صورت خودکار به‌روزشونده در یک مدیر رمز عبور استفاده شود.