محدودیت‌های امنیتی هوش مصنوعی کار پژوهشگران امنیت سایبری را دشوار کرده است

ر حالی که شرکت‌های توسعه‌دهنده هوش مصنوعی برای جلوگیری از سوءاستفاده هکرها، محدودیت‌های امنیتی یا گاردریل‌های هوش مصنوعی را در مدل‌های خود اعمال کرده‌اند، بسیاری از پژوهشگران امنیت سایبری معتقدند همین محدودیت‌ها اکنون مانع انجام تحقیقات قانونی و دفاعی شده است.

شرکت‌هایی مانند OpenAI و Anthropic برنامه‌هایی ویژه برای تأیید هویت پژوهشگران امنیتی ارائه می‌کنند تا آن‌ها بتوانند با محدودیت‌های کمتری به مدل‌های هوش مصنوعی دسترسی داشته باشند. با این حال، بسیاری از کارشناسان می‌گویند این برنامه‌ها برای پاسخ‌گویی به نیازهای واقعی جامعه امنیت سایبری کافی نیست.

محدودیت‌هایی که به مدافعان هم آسیب می‌زند

به گفته کریس آنلی، دانشمند ارشد شرکت NCC Group، یکی از کاربردهای مهم هوش مصنوعی در امنیت سایبری، بررسی امکان بهره‌برداری از آسیب‌پذیری‌های کشف‌شده است. اگر مدل‌های هوش مصنوعی به دلیل گاردریل‌ها از تحلیل چنین سناریوهایی خودداری کنند، پژوهشگران نمی‌توانند به‌درستی شدت و قابلیت سوءاستفاده از یک نقص امنیتی را ارزیابی کنند.

او می‌گوید همان دستوراتی که می‌توانند برای حمله مورد استفاده قرار گیرند، در دفاع سایبری نیز ضروری هستند و تفکیک کامل استفاده تهاجمی و دفاعی از آن‌ها عملاً امکان‌پذیر نیست.

روی آوردن پژوهشگران به مدل‌های متن‌باز

برخی پژوهشگران اعلام کرده‌اند زمانی که مدل‌های تجاری به دلیل محدودیت‌های امنیتی از پاسخ‌گویی خودداری می‌کنند، به سراغ مدل‌های متن‌باز می‌روند که بدون محدودیت و روی رایانه‌های محلی اجرا می‌شوند.

پائولو استاگنو، مدیر ارشد فناوری شرکت Crowdfense، معتقد است شرکت‌های هوش مصنوعی با اعمال این محدودیت‌ها، کاربران حرفه‌ای را مانند افرادی می‌بینند که نیاز به نظارت دائمی دارند. او همچنین هشدار می‌دهد استفاده از مدل‌های ابری برای تحلیل آسیب‌پذیری‌های محرمانه می‌تواند خطر افشای اطلاعات حساس را افزایش دهد؛ به همین دلیل تیم او برای بسیاری از پروژه‌ها از مدل‌های متن‌باز محلی استفاده می‌کند.

همه پژوهشگران مخالف نیستند

در مقابل، برخی کارشناسان دیدگاه متفاوتی دارند. جوزپه کالی، پژوهشگر امنیتی و متخصص کشف آسیب‌پذیری‌های روز صفر (Zero-day)، می‌گوید از هوش مصنوعی برای کشف آسیب‌پذیری استفاده نمی‌کند و آن را بیشتر ابزاری برای مهندسی معکوس، تحلیل کد و توسعه ابزارهای کمکی می‌داند.

به گفته او، حتی اگر تمام محدودیت‌های مدل‌های هوش مصنوعی برداشته شوند، همچنان ترجیح می‌دهد فرآیند کشف آسیب‌پذیری‌ها را شخصاً انجام دهد.

نگرانی از مهاجرت به مدل‌های خارجی

کریس تامپسون، مدیرعامل شرکت RemoteThreat، معتقد است محدودیت‌های فعلی باعث شده بسیاری از پژوهشگران به استفاده از مدل‌های متن‌باز خارجی، از جمله برخی مدل‌های توسعه‌یافته در چین، روی بیاورند؛ زیرا این مدل‌ها بدون فرآیند تأیید هویت و محدودیت‌های سخت‌گیرانه در دسترس هستند.

او هشدار می‌دهد اگر شرکت‌های آمریکایی دسترسی مسئولانه‌تری برای پژوهشگران امنیتی فراهم نکنند، جامعه مدافعان امنیت سایبری ممکن است در رقابت با مهاجمان سایبری از ابزارهای پیشرفته هوش مصنوعی عقب بماند.

به باور بسیاری از کارشناسان، چالش اصلی امروز صنعت هوش مصنوعی یافتن تعادلی میان جلوگیری از سوءاستفاده مجرمان و حفظ دسترسی پژوهشگران قانونی به قابلیت‌های پیشرفته این فناوری است؛ تعادلی که می‌تواند نقش مهمی در آینده امنیت سایبری ایفا کند.