انتشار گزارش تازه مرکز پژوهش‌های مجلس با عنوان «سایبرنتیک و مسئله حکمرانی (۱): عاملیت و مسئولیت‌پذیری در فناوری‌های هوش مصنوعی» بار دیگر این پرسش را مطرح کرده است که با گسترش استفاده از هوش مصنوعی، کنترل تصمیم‌های این فناوری چگونه باید انجام شود و مسئولیت پیامدهای آن بر عهده چه کسی است؟ سایبرنتیک با تمرکز بر ارتباطات، کنترل و بازخورد در سامانه‌ها، چارچوبی برای بررسی این پرسش‌ها فراهم می‌کند؛ چارچوبی که می‌تواند به فهم بهتر چالش‌های حکمرانی هوش مصنوعی کمک کند.

سایبرنتیک چیست و چه ارتباطی با حکمرانی هوش مصنوعی دارد؟

مرکز پژوهش‌های مجلس در گزارشی با عنوان «سایبرنتیک و مسئله حکمرانی (۱): عاملیت و مسئولیت‌پذیری در فناوری‌های هوش مصنوعی» به بررسی یکی از چالش‌های مهم توسعه هوش مصنوعی پرداخته است؛ چالشی که با افزایش نقش سامانه‌های هوشمند در تصمیم‌گیری، به موضوع کنترل، نظارت و مسئولیت‌پذیری گره خورده است.

سایبرنتیک دانشی است که ارتباطات، کنترل و سازوکار بازخورد را در سامانه‌های مختلف بررسی می‌کند. این سامانه‌ها می‌توانند ماشین‌ها، موجودات زنده یا سازمان‌های انسانی باشند. در این رویکرد، موضوع اصلی چگونگی دریافت اطلاعات، واکنش به آن و اصلاح عملکرد برای رسیدن به یک هدف مشخص است.

واژه سایبرنتیک در سال ۱۹۴۸ با انتشار کتاب «سایبرنتیک: یا کنترل و ارتباط در حیوان و ماشین» نوشته نوربرت وینر، به‌عنوان نام یک حوزه علمی مشهور شد. این مفهوم با وجود شباهت لفظی، با «امنیت سایبری» تفاوت دارد؛ امنیت سایبری بیشتر بر حفاظت از سامانه‌ها، شبکه‌ها و اطلاعات در برابر تهدیدها تمرکز دارد، در حالی که سایبرنتیک به بررسی گسترده‌تر سازوکارهای کنترل، ارتباط و بازخورد می‌پردازد.

پیوند سایبرنتیک با حکمرانی هوش مصنوعی از همین نقطه شکل می‌گیرد. اگر یک سامانه هوشمند در فرایند تصمیم‌گیری سازمانی به کار گرفته شود، بررسی عملکرد آن به شناخت ارتباط میان داده‌ها، الگوریتم، کاربر، سازمان بهره‌بردار و نهاد ناظر نیاز دارد. برای حکمرانی مؤثر، باید مشخص باشد اطلاعات چگونه وارد سامانه می‌شوند، تصمیم‌ها بر چه مبنایی گرفته می‌شوند و در صورت بروز خطا، چه سازوکاری برای شناسایی و اصلاح آن وجود دارد.

حلقه بازخورد؛ از تشخیص خطا تا اصلاح تصمیم

یکی از مفاهیم کلیدی در سایبرنتیک، بازخورد است. در یک سامانه دارای بازخورد، نتیجه عملکرد بررسی می‌شود و اطلاعات حاصل از آن برای اصلاح رفتار یا تصمیم بعدی به کار می‌رود.

برای مثال، سامانه‌ای را در نظر بگیریم که از هوش مصنوعی برای ارزیابی درخواست‌های بانکی استفاده می‌کند. اگر این سامانه گروهی از متقاضیان را به‌اشتباه واجد شرایط دریافت تسهیلات تشخیص ندهد، صرف شناسایی یک خطا برای حل مسئله کافی نیست. باید مشخص شود خطا از داده‌های ورودی ناشی شده، طراحی الگوریتم در آن نقش داشته یا شیوه استفاده سازمان از سامانه باعث چنین نتیجه‌ای شده است.

در مرحله بعد، سازمان باید امکان بررسی تصمیم، اصلاح داده یا فرایند و جلوگیری از تکرار خطا را فراهم کند. اگر این اطلاعات به مسئولان مربوط نرسد یا سازوکاری برای اصلاح تصمیم وجود نداشته باشد، حلقه بازخورد کارکرد خود را از دست می‌دهد.

سایبرنتیک می‌تواند به فهم یکی از نیازهای حکمرانی هوش مصنوعی کمک کند: نظارت باید به شناسایی مسئله محدود نماند و امکان اصلاح عملکرد را هم فراهم کند. البته وجود بازخورد به‌تنهایی تضمین‌کننده تصمیم درست نیست؛ کیفیت داده‌ها، نحوه ارزیابی نتایج و اختیار نهادهای مسئول برای اعمال اصلاحات نیز اهمیت دارد.

چرا مسئولیت‌پذیری هوش مصنوعی به مسئله‌ای پیچیده تبدیل شده است؟

گزارش مرکز پژوهش‌های مجلس بر مسئله عاملیت و مسئولیت‌پذیری در فناوری‌های هوش مصنوعی تمرکز دارد. یکی از محورهای مهم این بحث، شکل‌گیری «شکاف مسئولیت‌پذیری» است؛ وضعیتی که در آن، پس از بروز خطا یا آسیب، تعیین فرد یا نهادی که باید پاسخگو باشد دشوار می‌شود.

توسعه‌دهندگان، تأمین‌کنندگان داده، سازمان‌های استفاده‌کننده، کاربران و نهادهای ناظر ممکن است هرکدام در عملکرد یک سامانه هوشمند نقش داشته باشند. در چنین شرایطی، تمرکز بر خروجی نهایی الگوریتم به‌تنهایی تصویر کاملی از زنجیره تصمیم‌گیری به دست نمی‌دهد.

برای نمونه، اگر یک سامانه هوش مصنوعی در فرایند استخدام، متقاضی شایسته‌ای را رد کند، باید پرسید داده‌های آموزشی چگونه انتخاب شده‌اند، معیارهای ارزیابی چه بوده‌اند، سازمان چگونه از نتیجه استفاده کرده و آیا امکان بازبینی تصمیم وجود داشته است؟ پاسخ به این پرسش‌ها می‌تواند نقش هر بخش از فرایند را روشن‌تر کند.

گزارش میان دو رویکرد نیز تمایز می‌گذارد: مسئولیت‌پذیری پس از وقوع آسیب و مسئولیت‌پذیری پیش از وقوع آن. رویکرد نخست به شناسایی مسئولیت پس از بروز مشکل می‌پردازد؛ رویکرد دوم بر طراحی سازوکارهایی برای پیشگیری از آسیب تأکید دارد.

از منظر حکمرانی، ثبت فرایند تصمیم‌گیری، شفافیت متناسب با نوع سامانه، نظارت انسانی و امکان پیگیری نتایج می‌توانند به روشن‌تر شدن مسئولیت‌ها کمک کنند. در این چارچوب، پرسش سایبرنتیکی فقط این نیست که سامانه چه تصمیمی گرفته است؛ موضوع مهم‌تر آن است که چه کسی بر عملکرد آن نظارت می‌کند و اطلاعات حاصل از خطا چگونه به اصلاح سامانه منجر می‌شود.

حکمرانی هوش مصنوعی؛ فراتر از تدوین قانون

حکمرانی هوش مصنوعی به مجموعه‌ای از قواعد، نهادها و سازوکارهایی گفته می‌شود که توسعه و استفاده از این فناوری را هدایت و بر پیامدهای آن نظارت می‌کنند. قانون‌گذاری بخشی از این فرایند است، اما اجرای مؤثر قواعد به نظارت مستمر، دسترسی به اطلاعات، تقسیم روشن مسئولیت‌ها و امکان اصلاح تصمیم‌ها نیز وابسته است.

از منظر سایبرنتیک، یک نظام حکمرانی زمانی می‌تواند عملکرد خود را ارزیابی کند که اطلاعات کافی درباره نتایج تصمیم‌ها دریافت کند و توان واکنش به مشکلات را داشته باشد. اگر سازمان‌ها از پیامدهای استفاده از هوش مصنوعی آگاه نشوند، گزارش خطاها به نهادی مسئول نرسد یا اصلاحات لازم انجام نشود، فاصله میان مقررات و عملکرد واقعی باقی می‌ماند.

این مسئله در حوزه‌هایی مانند سلامت، آموزش، استخدام و خدمات عمومی اهمیت بیشتری پیدا می‌کند؛ زیرا تصمیم‌های مبتنی بر هوش مصنوعی در این حوزه‌ها می‌توانند بر فرصت‌ها و حقوق افراد اثر بگذارند. میزان نظارت و الزامات کنترلی نیز باید با نوع کاربرد، سطح خطر و پیامدهای احتمالی خطا متناسب باشد.

چهار مسیر برای کاهش شکاف مسئولیت‌پذیری

گزارش مرکز پژوهش‌های مجلس برای پیشگیری از شکاف مسئولیت‌پذیری، بر مجموعه‌ای از راهکارهای نهادی و اجتماعی تأکید دارد. این راهکارها را می‌توان در چهار محور خلاصه کرد:

شفاف‌سازی ساختارهای اجتماعی و فناورانه: مشخص شدن نقش توسعه‌دهندگان، سازمان‌های بهره‌بردار، کاربران و نهادهای ناظر در چرخه طراحی و استفاده از هوش مصنوعی.

تشکیل کارگروه‌های ارزیابی اخلاقی: ایجاد سازوکارهایی برای بررسی پیامدهای اخلاقی سامانه‌ها، مشروط به آنکه این کارگروه‌ها جایگاه و اختیار کافی برای پیگیری مسائل داشته باشند.

افزایش آگاهی عمومی و سواد هوش مصنوعی: کمک به کاربران و توسعه‌دهندگان برای شناخت محدودیت‌ها، خطرها و مسئولیت‌های مرتبط با استفاده از سامانه‌های هوشمند.

مشارکت ذی‌نفعان در سیاست‌گذاری: فراهم کردن زمینه حضور شهروندان، متخصصان، کسب‌وکارها و گروه‌های متأثر از فناوری در فرایند تدوین سیاست‌ها.

این پیشنهادها زمانی به نتیجه نزدیک‌تر می‌شوند که به سازوکارهای اجرایی قابل ارزیابی تبدیل شوند. برای مثال، شفافیت باید با ثبت اطلاعات لازم و امکان بررسی تصمیم‌ها همراه باشد و ارزیابی اخلاقی نیز باید بتواند به تغییر در طراحی یا نحوه استفاده از یک سامانه منجر شود.

سایبرنتیک چه کمکی به آینده حکمرانی هوش مصنوعی می‌کند؟

بحث سایبرنتیک در حکمرانی هوش مصنوعی، توجه را از خروجی یک الگوریتم به شبکه‌ای از ارتباطات، تصمیم‌ها و مسئولیت‌ها گسترش می‌دهد. این نگاه کمک می‌کند خطاهای هوش مصنوعی به‌عنوان مسئله‌ای فنی بررسی نشوند و نقش داده‌ها، سازمان‌ها، کاربران و نهادهای ناظر نیز در تحلیل مسئله دیده شود.

در عین حال، سایبرنتیک به‌تنهایی پاسخ همه پرسش‌های حقوقی و اخلاقی را ارائه نمی‌کند. برای تعیین مسئولیت قانونی، حمایت از حقوق افراد و تدوین قواعد الزام‌آور، به قانون‌گذاری و سازوکارهای نظارتی مشخص نیاز است. ارزش این چارچوب در آن است که اهمیت ارتباط میان کنترل، اطلاعات و اصلاح عملکرد را برجسته می‌کند.

گزارش مرکز پژوهش‌های مجلس با طرح مسئله عاملیت و مسئولیت‌پذیری در فناوری‌های هوش مصنوعی، زمینه‌ای برای بررسی همین ارتباط فراهم می‌کند. در نهایت، مسئله اصلی حکمرانی هوش مصنوعی این است که تصمیم‌های سامانه‌های هوشمند چگونه ارزیابی می‌شوند، چه کسی اختیار اصلاح آن‌ها را دارد و در صورت بروز آسیب، مسئولیت چگونه پیگیری می‌شود.