بر اساس سند «تحلیل آینده‌نگر تأثیرات هوش مصنوعی بر نهاد خانواده»، دوربین‌ها و میکروفن‌های هوشمند، سامانه‌های تحلیل رفتار کودکان، اپلیکیشن‌های سلامت و دیگر ابزارهای مبتنی بر هوش مصنوعی می‌توانند حجم قابل‌توجهی از داده‌های شخصی، رفتاری، صوتی، تصویری و سلامت اعضای خانواده را جمع‌آوری و تحلیل کنند؛ داده‌هایی که در برخی موارد خارج از کنترل مستقیم خانواده ذخیره یا پردازش می‌شوند.

ورود هوش مصنوعی به حریم خصوصی خانواده

هوش مصنوعی در سال‌های اخیر از محیط‌های کاری و صنعتی فراتر رفته و به بخش‌های مختلف زندگی روزمره خانواده‌ها وارد شده است؛ از دستیارهای صوتی و خانه‌های هوشمند گرفته تا ابزارهای پایش سلامت، آموزش کودکان و سامانه‌های مشاوره‌ای.

گزارش «تحلیل آینده‌نگر تأثیرات هوش مصنوعی بر نهاد خانواده» که از سوی مرکز پژوهش‌های مجلس منتشر شده، یکی از محورهای مهم این تحول را مسئله حریم خصوصی و امنیت کاربران می‌داند.

در این گزارش تأکید شده است که مفهوم حریم خصوصی خانواده دیگر فقط به جلوگیری از «دخالت بیرونی» محدود نمی‌شود. ابزارهای هوشمند می‌توانند از داخل خانه داده تولید کنند و اطلاعات مربوط به اعضای خانواده را به داده‌های قابل تحلیل برای الگوریتم‌ها تبدیل کنند.

برای مثال، بلندگوهای هوشمند می‌توانند صدا و مکالمات محیط را دریافت کنند و برخی پلتفرم‌ها نیز الگوهای مصرف، زمان خواب، وضعیت خلقی و حتی گفت‌وگوهای اعضای خانواده را ذخیره و تحلیل می‌کنند.

بدین ترتیب، خانواده ممکن است در شرایطی تصور کند در فضای خصوصی خود قرار دارد، در حالی که بخشی از رفتارهای روزمره آن به داده تبدیل شده و در اختیار یک سامانه هوشمند قرار گرفته است.

دوربین‌ها و میکروفن‌های هوشمند، کودکان را زیر نظر می‌گیرند

در یکی از بخش‌های این گزارش به استفاده از هوش مصنوعی برای پایش رفتار کودکان در خانه و مدرسه اختصاص پیدا کرده است.

براساس این سند، سامانه‌هایی که از دوربین‌های تشخیص چهره، میکروفن‌های هوشمند و الگوریتم‌های تحلیل حرکت و گفتار استفاده می‌کنند، می‌توانند رفتار کودک را به‌صورت مستمر و داده‌محور بررسی کنند. این سامانه‌ها قادرند الگوهایی مانند میزان تمرکز، کیفیت تعامل، نشانه‌های اضطراب، پرخاشگری یا اختلالات توجه را شناسایی کنند.

گزارش به نمونه‌هایی مانند  ReThinkEd، Curio  و ماژول‌های تحلیل رفتار GoGuardian اشاره می‌کند؛ ابزارهایی که با هدف شناسایی زودهنگام مشکلات رفتاری و تسهیل مداخلات آموزشی یا روان‌شناختی مورد استفاده قرار گرفته‌اند. با این حال مسئله مهم از منظر امنیت سایبری و حریم خصوصی، نوع داده‌هایی است که این سامانه‌ها جمع‌آوری می‌کنند.

ضبط مداوم صدا و تصویر کودک، ذخیره‌سازی اطلاعات رفتاری و ارسال این داده‌ها به سرورهایی خارج از کنترل خانواده یا مدرسه، از جمله چالش‌هایی است که گزارش درباره آنها هشدار می‌دهد. در چنین شرایطی، داده‌ای که ابتدا با هدف کمک به تشخیص یا آموزش کودک جمع‌آوری شده، می‌تواند به مجموعه‌ای از اطلاعات حساس درباره رفتار، عادت‌ها و ویژگی‌های فردی او تبدیل شود.

این گزارش همچنین تأکید می‌کند که در نبود چارچوب‌های شفاف حقوقی، نظارت دائمی می‌تواند علاوه بر مسئله حریم خصوصی، احساس امنیت کودک و اعتماد والدین به فناوری را نیز تحت تأثیر قرار دهد.

وقتی خانه به یک محیط دائمی برای جمع‌آوری داده تبدیل می‌شود

گزارش مرکز پژوهش‌های مجلس مسئله را فراتر از ابزارهای مخصوص کودکان می‌برد و از شکل‌گیری نوعی «نظارت دائمی» در محیط خانه سخن می‌گوید. در این مدل، داده‌های خانوادگی تنها اطلاعاتی مانند نام و شماره تماس نیستند؛ بلکه اطلاعاتی درباره رفتار، روابط، الگوهای خواب، وضعیت روانی، مکالمات و حتی موقعیت مکانی اعضای خانواده نیز می‌تواند در چرخه جمع‌آوری و تحلیل داده قرار گیرد.

یکی از نگرانی‌های اصلی مطرح‌شده در گزارش، فاصله میان «تولید داده» و «کنترل بر داده» است. خانواده ممکن است حجم زیادی از اطلاعات را تولید کند، اما نداند چه داده‌ای جمع‌آوری شده، کجا ذخیره می‌شود، چه کسی به آن دسترسی دارد و در نهایت برای چه تصمیم‌هایی مورد استفاده قرار می‌گیرد.

از نگاه سند «تحلیل آینده‌نگر تأثیرات هوش مصنوعی بر نهاد خانواده»، این مسئله باعث می‌شود حریم خصوصی دیگر یک موضوع فنی نباشد؛ بلکه به مسئله‌ای مرتبط با اختیار و عاملیت خانواده تبدیل شود.

داده‌های سلامت مادر و جنین؛ یکی از حساس‌ترین نقاط آسیب‌پذیر

یکی دیگر از بخش‌های قابل‌توجه گزارش به استفاده از هوش مصنوعی در پایش سلامت مادران باردار و جنین اختصاص دارد.

اپلیکیشن‌های بارداری، تجهیزات پوشیدنی و سامانه‌های تحلیل داده می‌توانند اطلاعات زیستی و پزشکی قابل‌توجهی را درباره مادر و جنین جمع‌آوری کنند. این فناوری‌ها می‌توانند امکان پایش مستمر وضعیت سلامت را فراهم کنند اما همزمان حجم بالایی از داده‌های حساس سلامت را نیز وارد زیرساخت‌های دیجیتال می‌کنند.

گزارش با اشاره به تجربه افشای اطلاعات بیش از ۱۰۰ میلیون کاربر اپلیکیشن  Flo Health، آن را نمونه‌ای از آسیب‌پذیری داده‌های سلامت در برابر نقض حریم خصوصی معرفی می‌کند. این گزارش در عین حال تأکید می‌کند که خطر فقط به نشت اطلاعات محدود نیست.

اگر الگوریتم‌های سلامت بر اساس داده‌های جمعیتی و پزشکی مربوط به جوامع دیگر آموزش دیده باشند، ممکن است در تحلیل شرایط خاص زنان ایرانی نیز با خطا مواجه شوند. نویسندگان این گزارش بر طراحی ابزارهای بومی و همچنین وضع مقررات سختگیرانه برای حفاظت از داده‌های سلامت تأکید کرده‌اند.

داده‌های خانوادگی ممکن است از کنترل خانواده خارج شوند

یکی از نگرانی‌های مهم مطرح‌شده در این گزارش، نبود سازوکار مشخص برای کنترل داده‌ها از سوی خانواده است. برای مثال، ممکن است یک اپلیکیشن سلامت یا ابزار هوشمند برای یکی از اعضای خانواده طراحی شده باشد، اما داده‌های تولیدشده از طریق آن بر سایر اعضای خانواده نیز تأثیر بگذارد.

از نگاه گزارش، چنین ابزارهایی باید امکان تعریف حساب‌های خانوادگی و تصمیم‌گیری مشترک درباره نوع و میزان داده‌های قابل ثبت و اشتراک‌گذاری را فراهم کنند. همچنین پیشنهاد شده است که زیرساخت‌های لازم برای ذخیره‌سازی محلی داده‌ها، مشاهده و مدیریت تاریخچه استفاده و کنترل سطح دسترسی کاربران ایجاد شود.

در این چارچوب، آگاهی کاربران نیز اهمیت زیادی دارد. اگر اعضای خانواده ندانند چه اطلاعاتی از آنها جمع‌آوری می‌شود و این اطلاعات چگونه در تصمیم‌های تربیتی، اقتصادی یا حقوقی مورد استفاده قرار می‌گیرد، امکان کنترل واقعی بر حریم خصوصی کاهش پیدا می‌کند.

رضایت آگاهانه؛ حلقه مفقوده جمع‌آوری داده

سند «تحلیل آینده‌نگر تأثیرات هوش مصنوعی بر نهاد خانواده» در بخش دیگری از بحث خود بر ضرورت دریافت رضایت آگاهانه تأکید می‌کند. بر اساس این پیشنهاد، اگر یک پلتفرم از محیط خانه اطلاعات مکانی، تصویری یا صوتی جمع‌آوری می‌کند، رضایت خانواده نباید به یک تأییدیه صوری محدود شود. اعضای خانواده باید بدانند چه داده‌ای جمع‌آوری می‌شود، چرا جمع‌آوری می‌شود و چگونه مورد استفاده قرار خواهد گرفت.

این مسئله به‌خصوص در شرایطی اهمیت پیدا می‌کند که فناوری‌های هوشمند به محیط‌های کاری خانگی، آموزش از راه دور و ابزارهای مدیریت خانه وارد می‌شوند.

امنیت هوش مصنوعی فقط به هک و حمله سایبری محدود نیست

یکی از نکات مهم این گزارش آن است که امنیت در زیست‌بوم هوش مصنوعی به جلوگیری از نفوذ هکرها یا حملات سایبری ختم نمی‌شود. زمانی که یک سامانه هوشمند به‌صورت دائمی داده‌های خانواده را جمع‌آوری و تحلیل می‌کند، امنیت داده شامل تمام چرخه عمر اطلاعات می‌شود؛ از لحظه جمع‌آوری و ذخیره‌سازی گرفته تا نحوه پردازش، اشتراک‌گذاری و استفاده از آن.

در چنین شرایطی، حتی اگر یک سامانه به صورت مستقیم هدف حمله سایبری قرار نگیرد، نبود شفافیت درباره نحوه جمع‌آوری و استفاده از داده‌ها می‌تواند به یکی از چالش‌های اصلی حریم خصوصی تبدیل شود. گزارش نیز بر همین اساس پیشنهاد می‌کند که در کنار توسعه فناوری‌های هوش مصنوعی، سازوکارهای نظارتی برای حفاظت از داده‌ها، کنترل سوگیری الگوریتمی و تضمین امنیت کاربران ایجاد شود.

پیشنهادهایی برای حفاظت از حریم خصوصی خانواده

مرکز پژوهش‌های مجلس در این گزارش مجموعه‌ای از راهکارهای تقنینی، نظارتی و سیاستی را نیز مطرح کرده است. در یکی از این پیشنهادها به اصلاح و تکمیل قوانین مرتبط با پلتفرم‌های دیجیتال، ممنوعیت استفاده از داده‌های حساس بدون رضایت، الزام شرکت‌های فناوری به شفاف‌سازی سیاست‌های داده‌برداری و جلوگیری از بهره‌برداری تجاری از اطلاعات خانواده‌ها بدون رضایت آگاهانه اشاره کرد.

پیشنهاد دیگری بر تقویت چارچوب‌های حکمرانی داده و پیش‌بینی سازوکاری برای ارزیابی آثار فناوری‌های هوش مصنوعی بر خانواده متمرکز شده است. گزارش همچنین پیشنهاد می‌کند «پیوست خانواده» در طرح‌های ملی توسعه هوش مصنوعی مورد توجه قرار گیرد تا آثار اجتماعی، فرهنگی، هویتی و امنیتی فناوری‌های جدید پیش از اجرای گسترده آنها بررسی شود.

خانواده در عصر هوش مصنوعی؛ کاربر یا صاحب داده؟

گزارش «تحلیل آینده‌نگر تأثیرات هوش مصنوعی بر نهاد خانواده» مسئله اصلی را فقط توسعه یا محدود کردن فناوری نمی‌داند. موضوع اصلی، نحوه قرار گرفتن خانواده در چرخه حکمرانی داده و فناوری است. از یک سو، هوش مصنوعی می‌تواند به تشخیص زودهنگام مشکلات رفتاری کودکان، پایش سلامت مادر و جنین و ارائه خدمات شخصی‌سازی‌شده کمک کند؛ از سوی دیگر، همین ابزارها می‌توانند حجم بی‌سابقه‌ای از داده‌های خانوادگی را تولید و پردازش کنند.

به همین دلیل، حفاظت از حریم خصوصی خانواده در عصر هوش مصنوعی نیازمند مجموعه‌ای از اقدامات همزمان است؛ از شفافیت درباره جمع‌آوری داده و رضایت آگاهانه گرفته تا ذخیره‌سازی امن، کنترل دسترسی، امکان مدیریت داده‌ها و نظارت بر نحوه استفاده از اطلاعات.

این سند تأکید دارد که توسعه هوش مصنوعی نباید فقط با هدف ایجاد زیرساخت و حمایت از نوآوری دنبال شود، بلکه باید همزمان سازوکارهای نظارتی برای حفاظت از داده‌ها، رفع سوگیری‌های الگوریتمی و تضمین امنیت خانواده نیز طراحی شود. در واقع، با هوشمندتر شدن خانه‌ها، مسئله امنیت دیگر فقط به این پرسش محدود نیست که «چه کسی می‌تواند وارد سیستم شود؟»؛ پرسش مهم‌تر این است که «چه کسی می‌داند داده‌های خانواده کجا هستند، چگونه تحلیل می‌شوند و چه تصمیم‌هایی بر اساس آنها گرفته می‌شود؟»