هوش مصنوعی میتواند از انسان پیشی بگیرد، اما مسئولیت با انسان است
بررسی آینده امنیت سایبری در عصر هوش مصنوعی در گفتوگو با محمدحسن صالح، کارشناس امنیت سایبری؛ از جایگزینی متخصصان و تصمیمگیری ماشین تا ضرورت حضور انسان و مهارتهای آینده.
گسترش هوش مصنوعی در حوزه امنیت سایبری، معادلات دفاع و مقابله با تهدیدات را با تغییرات جدی مواجه کرده است. از یک سو، ابزارهای مبتنی بر هوش مصنوعی میتوانند حجم زیادی از فعالیتهای تکراری، زمانبر و تحلیلی را با سرعت و دقت بیشتری انجام دهند و از سوی دیگر، خطاهای تحلیلی، «توهم» در مدلهای مولد و نبود امکان پذیرش مسئولیت، همچنان نقش انسان را در تصمیمهای حساس و حیاتی پررنگ نگه داشته است.
این تحولات در کنار نگرانیها درباره آینده مشاغل امنیت سایبری، پرسشهای مهمی را درباره مرز توانمندی ماشین و جایگاه متخصصان انسانی ایجاد کرده است؛ اینکه آیا هوش مصنوعی در نهایت جایگزین تحلیلگران امنیت میشود یا ماهیت وظایف آنها را تغییر خواهد داد و چه مهارتهایی برای متخصصان آینده اهمیت بیشتری پیدا خواهد کرد.
در همین راستا، با محمدحسن صالح، کارشناس امنیت سایبری در حوزه هوش مصنوعی، درباره مرزهای تصمیمگیری هوش مصنوعی، نقش «انسان در حلقه» در شرایط بحرانی، آینده مشاغل امنیت سایبری، تهدیدات امنیتی هوش مصنوعی و مهارتهای مورد نیاز نسل آینده متخصصان این حوزه گفتوگو کردهایم.
بسیاری نگرانند که هوش مصنوعی در نهایت جایگزین تحلیلگران امنیت و متخصصان شود. از منظر فلسفه فناوری و ساختار شناختی، خط قرمز کجاست؟ هوش مصنوعی دقیقاً کجا به بنبست میرسد و حضور انسان را غیرقابل جایگزین میکند؟
هوش مصنوعی در سطوح مختلفی مانند هوش مصنوعی قوی و هوش مصنوعی ضعیف قابل دستهبندی است. بسیاری از کاربردهای امروزی هوش مصنوعی در دسته هوش مصنوعی ضعیف یا هوش مصنوعی محدود قرار میگیرند. در این دسته، هوش مصنوعی صرفاً روی یک حوزه خاص تمرکز دارد و قدرت تحلیل و درک همزمان سایر حوزهها را ندارد.
لذا به نظر من، خط قرمز هوش مصنوعی در تصمیمگیری برای اقدامات حیاتی است و باید از مدلهایی نظیر Human in the Loop استفاده کرد. هوش مصنوعی به عنوان ابزاری برای انجام کارهای تکراری و حجیم بسیار مؤثر است، اما در تصمیمگیری حتماً انسان باید نقش داشته باشد تا ابعاد مختلف یک تصمیم حیاتی را در نظر بگیرد؛ خصوصاً جایی که جان انسانها در میان است.
در حوزه امنیت سایبری، خیلی وقتها تصمیمگیریها بر اساس یک «حس غریزی» یا درک پنهان از رفتار مهاجم شکل میگیرد که ماشینها فاقد آن هستند. آیا هوش مصنوعی واقعاً میتواند به درک بصیرتی برسد یا امنیت در نهایت همیشه به «شم انسانی» وابسته خواهد ماند؟
حس غریزی شاید چیزی باشد که در انسان در اثر تجربه بسیار و کار با سامانههای مختلف شکل میگیرد. سامانههای مبتنی بر هوش مصنوعی در صورتی که به اطلاعات کافی دسترسی داشته باشند، میتوانند از تجارب گذشته برای تحقق اهداف خود استفاده کنند. لذا در این رابطه، ماشین بدون اینکه اطلاعاتی را فراموش کند یا دچار خستگی شود، میتواند از انسان نیز پیشی بگیرد.
هوش مصنوعی به شدت مستعد خطاهای تحلیلی یا اصطلاحاً «توهم» است. در یک سناریوی بحرانی و حمله سایبری پیچیده، هزینه اتکا به تصمیمِ خودکارِ هوش مصنوعی چیست و چرا انسان در لحظه بحران حکمران نهایی است؟
توهم یکی از انواع مشکلات هوش مصنوعی مولد و خصوصاً مدلهای زبانی بزرگ است. با استفاده از شیوههای Human in the Loop میتوان تصمیمهای بحرانی و حساس را به انسان سپرد، چرا که در نهایت مسئولیت به عهده انسان است، نه ماشین. اتکای صرف به تصمیم خودکار هوش مصنوعی ممکن است هزینه گزاف و جبرانناشدنی در پی داشته باشد.
به جای از بین رفتن شغلها، شاهد «تغییر ماهیت» وظایف هستیم. کارشناس امنیت سایبریِ فردا چه کارهایی را دیگر انجام نخواهد داد و تمرکز خود را روی چه مهارتهای برتری خواهد گذاشت؟
بسیاری از کارهای تکراری و وقتگیر در حوزه امنیت سایبری امروز به راحتی میتوانند توسط هوش مصنوعی با دقت بالاتر و در زمان کمتر صورت گیرند. لذا کارشناسان حوزه امنیت سایبری باید تمرکز خود را روی بهرهگیری از هوش مصنوعی برای انجام کارها قرار دهند.
اگر بخواهیم آینده را پیشبینی کنیم، چه عناوین شغلی جدیدی در تقاطع هوش مصنوعی و امنیت سایبری متولد میشوند که امروز اصلاً وجود خارجی ندارند؟
یکی از عناوین نوظهور در ترکیب هوش مصنوعی و امنیت سایبری، شناخت تهدیدات و امنیت هوش مصنوعی است. هوش مصنوعی دارای تهدیدات امنیتی خاص خود است.
کارشناسان امنیت سایبری باید ضمن شناسایی این تهدیدات، شیوههای ارزیابی و روشهای مقابله با تهدیدات امنیتی هوش مصنوعی را همگام با رشد سریع سامانههای مبتنی بر هوش مصنوعی بشناسند.
ورود این ابزارها نیاز به نسل جدیدی از متخصصان دارد که هم هوش مصنوعی را بفهمند و هم امنیت را. به نظرتان سیستمهای آموزشی و دانشگاهی چقدر آماده تربیت این نیروی کارِ ترکیبی هستند؟
شاید مراکز آموزش حرفهای نقش بیشتری از دانشگاهها در تربیت نیروی کار متخصص این حوزه داشته باشند. البته امروزه سامانههای آموزش مبتنی بر هوش مصنوعی هم نقش مؤثری در ارائه این آموزشها دارند.
هوش مصنوعی هم دست مدافعان است و هم ابزار مهاجمان، مثل بدافزارهای هوشمند. آیا این مسابقه تسلیحاتی بین هوش مصنوعیِ مهاجم و مدافع، نیاز به نیروی انسانیِ استراتژیک را بیشتر میکند یا کمتر؟
قطعاً نیروی انسانی نقش مؤثری در استفاده از این ابزارها، چه با رویکرد تهاجمی و چه با رویکرد تدافعی، دارد.
اگر یک سیستم خودکارِ مبتنی بر هوش مصنوعی تصمیم اشتباهی در شبکه بگیرد یا فاجعهای امنیتی ایجاد کند، چه کسی پاسخگوست؟ آیا مسئولیت قانونی و اخلاقی اصلاً میتواند به ماشین واگذار شود؟
مسئولیت با انسان است. ماشین، حداقل در شرایط امروز، امکان پذیرش مسئولیت را ندارد.
با سادهتر شدن ابزارها به کمک هوش مصنوعی، کارهای سطحی و تکراری خودکار میشوند. آیا این باعث نمیشود ارزش واقعی یک کارشناس انسانیِ خلاق بیشتر از قبل به چشم بیاید؟
قطعاً افرادی که بتوانند از تکنولوژی در راستای اهداف خود استفاده کنند، متفاوت از سایرین خواهند بود.
به عنوان سؤال پایانی؛ اگر بخواهید به یک جوان علاقهمند به امنیت سایبری که نگران آینده شغلیاش به خاطر هوش مصنوعی است دلگرمی بدهید، دقیقاً روی چه مهارتی دست میگذارید که هیچوقت از مد نیفتد؟
به نظر من مهمترین مهارت، داشتن روحیهای کنجکاو و با امکان سازگاری سریع با شرایط روز است. یک جوان هیچگاه نباید به جایگاه فعلی بسنده کند و باید ضمن مطالعه و دنبال کردن مباحث روز حوزه کاری خود، مثل امنیت سایبری، روند را بشناسد و متناسب با آن خود را بهروز نگه دارد.
