سه اصل برای مقابله با تهدیدهای سایبری هوش مصنوعی

شرکت‌های آنتروپیک، مایکروسافت، گوگل، چک‌پوینت، کلادفلر، اوراکل و اوپن‌ای‌آی از امضاکنندگان این نامه هستند. نویسندگان این نامه نسبت به گسترش و تقویت حملات مبتنی بر هوش مصنوعی در ماه‌های آینده و تشدید تهدیدات سایبری برای بیمارستان‌ها، تصفیه آب و زیرساخت ابراز نگرانی کرده‌اند. از نظر آن‌ها، با وجود اینکه پیشرفت‌های هوش مصنوعی ریسک‌های امنیتی را افزایش داده، اما از همین پیشرفت‌ها می‌توان برای رفع ضعف‌های امنیتی و اقدام سریع استفاده کرد.

موضع مشترک ۱۳۰ سازمان فعال در حوزه‌های امنیت سایبری، رایانش ابری، خدمات مالی و سایر صنایع نسبت به افزایش تهدیدهای هوش مصنوعی برای امنیت سایبری را می‌توان در سه اصل خلاصه کرد. اصل اول بر ناکافی بودن روش‌های فعلی تأمین امنیت تأکید دارد. بر اساس این اصل، وجود آسیب‌پذیری‌های قدیمی، پیکربندی‌های نادرست و روش‌های ضعیف احراز هویت، لزوم به‌روزرسانی روش‌های مقابله با تهدیدات را بیش از پیش آشکار کرده است.

اصل دوم نیز بر توانایی هوش مصنوعی برای گسترش مهارت‌های تخصصی امنیتی در میان تعداد بیشتری از مدافعان تأکید دارد و می‌گوید این فناوری می‌تواند دانش مشترک و راه‌حل‌های تأییدشده را در دسترس افراد و سازمان‌های بیشتری قرار دهد.

سومین اصل نیز بر ضرورت یک واکنش جهانی و هماهنگ تأکید می‌کند، زیرا توانمندی‌های سایبری به‌سرعت در میان سازمان‌های مختلف در حال پیشرفت هستند.

سازمان‌ها و دولت‌ها در برابر موج جدید حملات هوش مصنوعی چه باید کنند؟

نویسندگان این نامه همچنین از تمام سازمان‌ها خواسته‌اند تا دفاع سایبری را به یک اولویت فوری در سطح مدیریت تبدیل کنند، ابتدا ضعف‌های امنیتی پرخطر را برطرف کنند، سطح استانداردهای امنیتی محصولات و خدماتی را که تولید یا خریداری می‌کنند افزایش دهند و در مواردی که وصله‌کردن یک سامانه می‌تواند خدمات ضروری را مختل کند، از راهکارها و کنترل‌های جایگزین استفاده کنند.

علاوه بر این، شرکت‌های امنیت سایبری و شرکای فناوری باید توان دفاعی خود را به‌طور مستمر در برابر قابلیت‌های پیشرفته هوش مصنوعی آزمایش کنند، ابزارهای حفاظتی مبتنی بر هوش مصنوعی را برای اپراتورهای زیرساخت حیاتی با بودجه محدود قابل‌دسترسی کنند و اطلاعات تهدید و دستورالعمل‌های مقابله‌ای را که اثربخشی آن‌ها در عمل تأیید شده است، به اشتراک بگذارند.

این نامه از دولت‌ها نیز خواسته تا دفاع سایبری را در سطوح ملی، محلی و بین‌المللی هماهنگ کنند، خدمات ضروری فاقد نیروی انسانی یا بودجه کافی را تأمین مالی کنند و دسترسی زیرساخت‌های حیاتی به ابزارهای دفاعی مبتنی بر هوش مصنوعی و پشتیبانی برای انجام آزمایش‌های مجاز را فراهم کنند. از شرکت‌های توسعه‌دهنده مدل‌های پیشرفته هوش مصنوعی نیز خواسته شده است دسترسی مسئولانه به مدل‌های خود را برای مدافعان فراهم کنند، از مدافعانی که منابع محدودی دارند حمایت مالی و عملی داشته باشند، ابزارهایی برای نظارت بر سامانه‌های هوش مصنوعی و اطمینان از قابل‌ردیابی و پاسخ‌گو بودن اقدامات آن‌ها ایجاد کنند و ارزیابی‌های خود از تهدیدها را با دولت‌ها و نگهدارندگان پروژه‌های متن‌باز به اشتراک بگذارند.

سه تعهد OpenAI برای ارتقای جهانی امنیت سایبری

شرکت اوپن‌ای‌آی که رهبری این اتحاد جهانی برای مقابله با تهدیدات سایبری هوش مصنوعی را برعهده دارد، سه تعهد مشخص را مطرح کرده است. ارائه دسترسی یارانه‌ای به مدل‌های Daybreak Cyber برای سازمان‌های بخش عمومی، نهادهای غیرانتفاعی، نگهدارندگان پروژه‌های متن‌باز و اپراتورهای زیرساخت‌های حیاتی یکی از این تعهدات است. علاوه بر این، اوپن‌ای‌آی از ارائه برنامه‌ای خبر داده که بر اساس آن، به سازمان‌ها اجازه می‌دهد تا با همکاری شرکای مجاز، توان دفاعی خود را با استفاده از مدل‌های آن آزمایش کنند و ضعف‌های شناسایی‌شده را به‌صورت خصوصی گزارش دهند. این شرکت همچنین اعلام کرده است که به انتشار ابزارها و یافته‌های امنیتی ادامه خواهد داد تا به سازمان‌ها در شناسایی، اولویت‌بندی و تأیید رفع ضعف‌های امنیتی کمک کند.