تسلیحات خودمختار هوش مصنوعی؛ جهان به چه خطوط قرمزی نیاز دارد؟
تسلیحات خودمختار مبتنی بر هوش مصنوعی در حال تغییر جنگ هستند؛ چرا جهان به قوانین بینالمللی برای جلوگیری از هدفگیری غیرنظامیان نیاز دارد؟
هوش مصنوعی در حال دگرگون کردن شیوه جنگها و منازعات بینالمللی است. سامانههای تسلیحاتی خودمختار تهدیدی واقعی برای غیرنظامیان محسوب میشوند. جنگ اوکراین به میدان آزمایشی برای نسل جدیدی از تسلیحات تبدیل شده است؛ سلاحهایی که میتوانند مسیر خود را پیدا کنند، اهداف را شناسایی کنند، در برابر اقدامات متقابل الکترونیکی مقاومت کنند و بدون نیاز به کنترل مستقیم انسان، اهداف را دنبال کرده و مورد حمله قرار دهند.
تسلیحات خودمختار هوش مصنوعی چگونه عمل میکنند؟
گزارشهای اخیر نیویورک تایمز از تحولی پرده برداشته است. در ژوئیه ۲۰۲۶، یک پهپاد روسی به یک پمپبنزین در زاپوریژیا حمله کرد و سه غیرنظامی اوکراینی، از جمله یک دانشجوی ۱۹ ساله، کشته شدند.
بر اساس گفته بازرسان و کارشناسان اوکراینی که بقایای این پهپاد را بررسی کردهاند، این پهپاد به یک تراشه Nvidia Jetson Orin مجهز بوده و از یک سامانه هوش مصنوعی داخلی برای هدایت آن استفاده میکرده است.
اپراتورهای انسانی پهپاد را برای حرکت به سمت یک منطقه مشخص برنامهریزی کرده بودند؛ اما طبق این گزارش، سامانه هوش مصنوعی هدف مشخصی را برای حمله انتخاب کرده است، بدون آنکه یک انسان تصمیم نهایی درباره انتخاب هدف را اتخاذ کند.
تراشه Nvidia اساساً برای استفاده تسلیحاتی یا نظامی طراحی نشده است. با این حال، این تراشه در حوزه بینایی ماشین، یادگیری ماشین و اجرای وظایف هوش مصنوعی روی دستگاههای کممصرف عملکرد بالایی دارد. چنین قطعاتی در زنجیره تأمین فناوری میتوانند به شیوههایی مورد استفاده مجدد قرار گیرند که سازندگان آنها پیشبینی نکردهاند و در نهایت بخشی از یک سامانه تسلیحاتی خودمختار شوند.
حرکت از تسلیحات مجهز به هوش مصنوعی به سلاحهای خودمختار
این پلتفرمهای نوظهور را باید ادامه تکامل نسلهای قبلی تسلیحات مجهز به هوش مصنوعی دانست.
در این نمونه، سامانه میتوانست بدون برخی تجهیزات لازم برای هدایت از راه دور فعالیت کند؛ موضوعی که نشاندهنده حرکت به سمت سلاحهایی است که میتوانند بهطور مستقل حمله کنند.
بهتدریج بخشهای بیشتری از زنجیره کشتار (Kill Chain) در اختیار نرمافزار قرار میگیرد؛ از مسیریابی و تشخیص هدف گرفته تا ردیابی و در نهایت درگیری با هدف.
این تغییر، ماهیت رابطه میان انسان و سلاح را دگرگون میکند. هرچه اختیار بیشتری به سامانه هوش مصنوعی واگذار شود، نقش انسان در تصمیمگیری درباره اینکه چه چیزی، چه زمانی و چگونه مورد حمله قرار گیرد، کاهش پیدا میکند.
تسلیحات خودمختار همین حالا در حال استفاده هستند
سامانههای تسلیحاتی خودمختار از سوی هر دو طرف درگیری، یعنی اوکراین و روسیه، در حال استفاده هستند. همزمان، ارتشهای کشورهای مختلف جهان نیز در حال توسعه، آزمایش و آغاز بهکارگیری نسلهای جدید سلاحهای تقویتشده با هوش مصنوعی هستند.
بزرگترین خطر تسلیحات خودمختار زمانی ایجاد میشود که دولتها آگاهانه از آنها علیه جمعیتهای غیرنظامی و افرادی که در درگیری مشارکت ندارند استفاده کنند.
این رویداد نشان میدهد تسلیحات خودمختار چه خطراتی میتوانند در سطح جهانی ایجاد کنند و چرا به قوانین بینالمللی دقیقتر و مشخصتری برای نحوه استفاده از این فناوریها نیاز داریم.
آیا استفاده از تسلیحات خودمختار الزاماً غیرقانونی است؟
تسلیحات خودمختار لزوماً به معنای استفاده غیرقانونی یا غیراخلاقی از هوش مصنوعی نیستند.
تقریباً قطعی است که این فناوری بخشی از آینده جنگ خواهد بود. دولتهایی که مسئولانه عمل میکنند ممکن است از این سامانهها برای کاهش خطرات متوجه نیروهای نظامی، دفاع از حریم هوایی و زیرساختهای حیاتی، رهگیری تهدیدها و هدف قرار دادن دقیقتر اهداف نظامی مشروع استفاده کنند.
نباید چنین آیندهای را بهطور کلی رد کرد.
اما همانند تسلیحات متعارف، سامانههای خودمختار نیز باید صرفاً علیه نیروهای رزمی و زیرساختهای پشتیبان نظامی مورد استفاده قرار گیرند. استفاده از آنها باید به اهداف نظامی مشروع محدود شود و این سامانهها هرگز نباید عمداً برای هدف قرار دادن غیرنظامیان یا سایر افرادی که تحت حمایت حقوق بشردوستانه بینالمللی هستند به کار گرفته شوند.
خلأ قوانین بینالمللی درباره سلاحهای خودمختار
جامعه بینالمللی از هماکنون درباره این موضوع بحث میکند.
سازمان ملل متحد سالهاست موضوع تسلیحات خودمختار مرگبار را بررسی میکند و مقامهایی از کمیته بینالمللی صلیب سرخ نیز خواستار تدوین قوانین قویتر در این زمینه شدهاند.
حقوق بشردوستانه بینالمللی در حال حاضر هدف قرار دادن عمدی غیرنظامیان را ممنوع میکند؛ اما قوانین موجود، استانداردهای مشترک و بهاندازه کافی مشخصی برای سلاحهایی که بهصورت مستقل اهداف را انتخاب و با آنها درگیر میشوند، ارائه نمیدهند.
در مناطق خاکستری مربوط به میزان خودمختاری تسلیحات هوشمند، هنوز چارچوبهای کافی برای تعیین مسئولیت وجود ندارد. همچنین درباره تشدید کنترلنشده فناوریهای هوش مصنوعی که ممکن است عمداً برای هدف قرار دادن مستقیم غیرنظامیان مورد استفاده قرار گیرند، خلأهای جدی وجود دارد.
چرا جهان به «خط قرمز» برای تسلیحات هوش مصنوعی نیاز دارد؟
سیاستگذاران بینالمللی باید از فرصت موجود برای ایجاد توافقهای الزامآور استفاده کنند؛ توافقهایی که استانداردهای قابل قبول، اختیارات مربوط به تحقیقات پس از حوادث و یک خط قرمز روشن برای استفاده از تسلیحات خودمختار مبتنی بر هوش مصنوعی را مشخص کنند.
مهمترین اصل چنین چارچوبی باید ممنوعیت هدف قرار دادن افراد غیررزمی و غیرنظامیان باشد؛ پیش از آنکه مرگ غیرنظامیان در حملات خودمختار به امری عادی تبدیل شود.
یک سیاست جهانی یکپارچه و مورد حمایت گسترده، بهتنهایی نمیتواند مانع کشورهایی شود که برخلاف اصول اخلاقی از تسلیحات هوش مصنوعی علیه غیرنظامیان استفاده میکنند. اما چنین سیاستی میتواند چارچوب لازم را برای پاسخگو کردن این کشورها ایجاد کند و زمینه را برای واکنش هماهنگ و قدرتمند یک ائتلاف بینالمللی فراهم سازد.
قوانین بینالمللی چه مواردی را باید مشخص کنند؟
چنین قوانینی میتوانند شامل موارد زیر باشند:
- تعریفهای مشترک و دقیق درباره تسلیحات خودمختار و هوش مصنوعی نظامی
- تعیین انتظارات و استانداردهای روشن برای استفاده از این سامانهها
- ایجاد فرآیندهای مشخص برای گزارش حوادث
- فراهم کردن ظرفیتهای لازم برای تحقیقات فنی و جرمشناختی
- ایجاد سازوکارهایی برای تعیین اینکه آیا یک سلاح خودمختار عمداً یا در اثر سهلانگاری علیه غیرنظامیان استفاده شده است
- ایجاد سازوکارهای نظارت و پاسخگویی بینالمللی
- تعیین رویههایی برای واکنش هماهنگ جامعه جهانی در صورت عبور عمدی از خطوط قرمز
چنین چارچوبی میتواند به دولتها امکان دهد در برابر نقض این قواعد، با سرعت و اطمینان بیشتری اقدامات سیاسی، دیپلماتیک، اقتصادی و نظامی هماهنگ انجام دهند.
این اقدامات میتواند شامل تحریمهای هماهنگ، محدودیتهای صادراتی، قطع زنجیره تأمین فناوریهای حیاتی و توسعه مشترک سامانههای مقابله با تهدیدات نظامی باشد.
هدف چنین اقداماتی میتواند ایجاد بازدارندگی یا فراهم کردن زمینه برای اصلاح و جبران پیامدهای نقض قوانین باشد.
هوش مصنوعی آینده جنگ را تغییر خواهد داد
هوش مصنوعی جنگ را متحول خواهد کرد و این روند همین حالا آغاز شده است.
نباید منتظر بمانیم تا استفاده از تسلیحات خودمختار علیه غیرنظامیان به یک پدیده رایج تبدیل شود و سپس برای مدیریت خطرات آن مرز تعیین کنیم.
توافقهای بینالمللی مانعی برای پیشرفت فناوری نیستند. برعکس، آنها میتوانند سازوکاری ضروری برای ایمنتر کردن پیشرفت فناوری باشند؛ پیش از آنکه توسعه کنترلنشده این فناوریها به پیامدهایی فاجعهبار منجر شود.
ضرورت تعیین مرزهای ایمنی برای هوش مصنوعی
کمیته بینالمللی ایمنی هوش مصنوعی (ICAS) تحت نظر شورای جهانی هوش مصنوعی مسئولانه (GCRAI) در حال کار برای تعریف مرزهای ایمنی جهانی در حوزه هوش مصنوعی است.
این گروه مرزهایی را برای ایمنی جهانی هوش مصنوعی تعریف کرده است که جامعه بینالمللی میتواند بر اساس آنها برای ایجاد توافقهای جهانی اقدام کند؛ از جمله درباره خطرات وجودی ناشی از تسلیحات خودمختار هوش مصنوعی که افراد غیررزمی را هدف قرار میدهند.
جامعه جهانی به توافقهای بینالمللی نیاز دارد که استفادههای قابل قبول و ممنوع از هوش مصنوعی خودمختار را مشخص کنند، از غیرنظامیان و سایر افراد غیررزمی محافظت کنند، سازوکارهای واقعی پاسخگویی ایجاد کنند و امکان تحقیقات مستقل درباره حوادث را فراهم آورند.
همچنین باید سازوکارهای نظارتی وجود داشته باشد تا در صورت عبور عمدی از این مرزها، مسیر برای واکنش هماهنگ بینالمللی هموار شود.
جهان باید آگاهانه میان «خودمختاری تحت نظارت و قانون» و «تشدید کنترلنشده» انتخاب کند. سیاستگذاران بینالمللی باید همین حالا اقدام کنند.
