کد خبر: ۵۲۵

متا، مایکروسافت و انویدیا علیه محدودیت مدل‌های متن‌باز هوش مصنوعی

گزارش بهراد یوسفی درباره نامه مشترک متا، مایکروسافت و انویدیا به واشنگتن؛ ممنوعیت مدل‌های متن‌باز به ضرر امنیت سایبری است

غول‌های فناوری از جمله متا، مایکروسافت و انویدیا با محدودیت مدل‌های متن‌باز هوش مصنوعی مخالفت کردند. این تصمیم چه تأثیری بر امنیت سایبری و رقابت آمریکا و چین خواهد داشت؟

همزمان با بررسی سیاست‌های جدید دولت آمریکا برای مقابله با پیشرفت سریع شرکت‌های هوش مصنوعی چین، گروهی از بزرگ‌ترین بازیگران صنعت فناوری با انتشار نامه‌ای سرگشاده از قانون‌گذاران خواسته‌اند از اعمال محدودیت‌های گسترده بر مدل‌های متن‌باز هوش مصنوعی (Open-Weight AI Models) خودداری کنند. به اعتقاد این شرکت‌ها، چنین محدودیت‌هایی نه‌تنها رقابت و نوآوری را تضعیف می‌کند، بلکه می‌تواند توان دفاع سایبری آمریکا و متحدانش را نیز کاهش دهد.

 

نگرانی صنعت از سیاست‌های جدید آمریکا

چندین شرکت مطرح از جمله Meta، Microsoft، Nvidia، Hugging Face، Mistral AI  وReplit  با امضای نامه‌ای مشترک از سیاست‌گذاران آمریکایی خواسته‌اند میان توسعه قانونی مدل‌های هوش مصنوعی و سوءاستفاده از مالکیت فکری تفاوت قائل شوند.

اگرچه در متن نامه نامی از چین برده نشده است، اما انتشار آن هم‌زمان با گزارش‌هایی صورت گرفته که نشان می‌دهد دولت آمریکا در حال بررسی اعمال محدودیت یا حتی تحریم برخی مدل‌های متن‌باز توسعه‌یافته توسط شرکت‌های چینی است. این اقدامات در واکنش به نگرانی‌ها درباره انتقال فناوری، سرقت مالکیت فکری و رشد سریع توانمندی مدل‌های هوش مصنوعی چین مطرح شده‌اند.

 

Distillation؛ تکنیک فنی یا سرقت مالکیت فکری؟

یکی از محورهای اصلی این مناقشه، فناوری Distillation  یا «تقطیر مدل» است؛ روشی که در آن خروجی یک مدل هوش مصنوعی برای آموزش یا بهبود عملکرد مدل دیگری مورد استفاده قرار می‌گیرد.

امضاکنندگان نامه تأکید کرده‌اند که Distillation سال‌هاست به‌عنوان یکی از روش‌های رایج توسعه مدل‌های هوش مصنوعی در صنعت و دانشگاه مورد استفاده قرار می‌گیرد و نباید صرف استفاده از این تکنیک به‌عنوان مصداق سرقت مالکیت فکری تلقی شود.

به اعتقاد آن‌ها، اگر نمونه‌هایی از سوءاستفاده یا نقض حقوق مالکیت فکری وجود داشته باشد، باید از طریق قوانین، قراردادهای تجاری و سازوکارهای حقوقی با آن برخورد شود؛ نه با ممنوعیت گسترده فناوری‌هایی که بخش مهمی از نوآوری در حوزه هوش مصنوعی را تشکیل می‌دهند.

 

امنیت سایبری؛ مهم‌ترین استدلال حامیان مدل‌های متن‌باز

بخش قابل توجهی از این نامه به پیامدهای امنیت سایبری محدود کردن مدل‌های متن‌باز اختصاص دارد.

شرکت‌های امضاکننده هشدار داده‌اند که در شرایطی که مهاجمان سایبری نیز به ابزارهای پیشرفته هوش مصنوعی دسترسی پیدا می‌کنند، مدافعان امنیت باید امکان استفاده از مدل‌هایی با قابلیت‌های مشابه را داشته باشند.

به باور آن‌ها، مدل‌های متن‌باز مزایای مهمی برای جامعه امنیت سایبری ایجاد می‌کنند، از جمله:

  • شبیه‌سازی حملات پیچیده برای ارزیابی دفاع سایبری
  • توسعه ابزارهای تشخیص تهدید
  • کشف آسیب‌پذیری‌ها از طریق بررسی عمومی
  • افزایش شفافیت در عملکرد مدل‌ها
  • مشارکت پژوهشگران مستقل در بهبود امنیت

در نامه تأکید شده است که محدود کردن دسترسی به مدل‌های متن‌باز، توان جامعه دفاع سایبری را در برابر تهدیدهای مبتنی بر هوش مصنوعی کاهش خواهد داد.

 

اختلاف دیدگاه در صنعت هوش مصنوعی

این نامه شکاف عمیق میان دو رویکرد غالب در صنعت هوش مصنوعی را آشکار کرده است.

از یک سو، شرکت‌هایی مانند OpenAI  و Anthropic  طی ماه‌های اخیر بارها درباره سوءاستفاده احتمالی از مدل‌های متن‌باز و انتقال فناوری به رقبای خارجی هشدار داده‌اند. این شرکت‌ها معتقدند با افزایش توان مدل‌های متن‌باز، خطر تولید بدافزار، حملات سایبری خودکار و سوءاستفاده از فناوری نیز افزایش می‌یابد.

در مقابل، شرکت‌هایی مانند  Meta، Hugging Face  و Mistral بر این باورند که محدودیت‌های گسترده نه‌تنها نوآوری را متوقف می‌کند، بلکه باعث می‌شود توسعه هوش مصنوعی به خارج از آمریکا منتقل شده و رقابت جهانی به نفع سایر کشورها تغییر کند.

 

تجربه اخیر Hugging Face؛ نمونه‌ای از چالش‌های مدل‌های بسته

در بخشی از این بحث، شرکت Hugging Face به رخدادی اشاره کرده است که پس از آزمایش یکی از مدل‌های جدید OpenAI  مطرح شد.

بر اساس این گزارش، هنگام بررسی یک رفتار غیرمنتظره از یک مدل پیشرفته، Hugging Face  اعلام کرد مدل‌های تجاری و بسته به دلیل محدودیت‌های امنیتی (Guardrails) قادر نبودند میان درخواست یک مهاجم و فعالیت یک پژوهشگر امنیت سایبری تفاوت قائل شوند. این شرکت در نهایت از یک مدل متن‌باز برای انجام تحلیل‌های دفاعی استفاده کرد و این موضوع را نمونه‌ای از مزایای مدل‌های باز در تحقیقات امنیت سایبری دانست.

 

پیامدهای احتمالی برای اکوسیستم جهانی هوش مصنوعی

در صورت اعمال محدودیت‌های گسترده بر مدل‌های متن‌باز، پیامدهای آن تنها به شرکت‌های آمریکایی محدود نخواهد شد.

کارشناسان معتقدند چنین تصمیمی می‌تواند بر موارد زیر تأثیر بگذارد:

  • روند توسعه مدل‌های متن‌باز در سطح جهان
  • همکاری‌های تحقیقاتی بین‌المللی
  • بازار رایانش ابری و پردازنده‌های هوش مصنوعی
  • رقابت میان شرکت‌های آمریکایی و چینی
  • توسعه ابزارهای دفاع سایبری مبتنی بر هوش مصنوعی

همچنین این تصمیم می‌تواند مسیر آینده مقررات‌گذاری هوش مصنوعی در سایر کشورها را نیز تحت تأثیر قرار دهد.

 

جمع‌بندی

نامه مشترک غول‌های فناوری نشان می‌دهد که اختلاف نظر درباره آینده مدل‌های متن‌باز هوش مصنوعی از یک بحث فنی فراتر رفته و به موضوعی راهبردی در حوزه رقابت فناوری، امنیت ملی و حکمرانی هوش مصنوعی تبدیل شده است. اکنون تصمیم دولت آمریکا می‌تواند نه‌تنها مسیر توسعه این فناوری، بلکه آینده اکوسیستم جهانی هوش مصنوعی و امنیت سایبری را نیز تحت تأثیر قرار دهد.

 

منابع

این گزارش با استناد به چندین منبع معتبر بین‌المللی تهیه و توسط تیم تحریریه ۲۴ نیوز به‌صورت اختصاصی تحلیل، راستی‌آزمایی و بازنویسی شده است.

 

اتاق تحلیل ۲۴ نیوز | دیدگاه تحلیلی بهراد یوسفی

بحث امروز بر سر «متن‌باز یا بسته بودن» مدل‌های هوش مصنوعی نیست؛ بلکه بر سر کنترل قدرت محاسباتی و حاکمیت بر زیرساخت آینده اقتصاد دیجیتال است. در سال‌های گذشته، رقابت شرکت‌های فناوری عمدتاً بر سر کیفیت مدل‌ها بود، اما اکنون رقابت به سطح حکمرانی فناوری رسیده است. اینکه چه کسی به مدل‌های پیشرفته دسترسی داشته باشد، چه کسی بتواند آن‌ها را توسعه دهد و چه کسی حق استفاده از آن‌ها را داشته باشد، به یک مسئله ژئوپلیتیکی تبدیل شده است.

از منظر امنیت سایبری، استدلال حامیان مدل‌های متن‌باز قابل توجه است. در محیطی که مهاجمان از هوش مصنوعی برای تولید بدافزار، مهندسی اجتماعی، کشف آسیب‌پذیری و خودکارسازی حملات استفاده می‌کنند، تیم‌های دفاعی نیز به ابزارهایی با توان مشابه نیاز دارند. محدود کردن دسترسی پژوهشگران و مدافعان به مدل‌های قدرتمند می‌تواند شکاف توانمندی میان مهاجم و مدافع را افزایش دهد و اصل Defense in Depth  را تضعیف کند.

با این حال، نگرانی درباره سوءاستفاده از مدل‌های باز نیز بی‌اساس نیست. هرچه توانمندی مدل‌ها افزایش یابد، امکان استفاده از آن‌ها برای تولید محتوای مخرب، توسعه ابزارهای حمله یا تسهیل عملیات سایبری پیچیده نیز بیشتر می‌شود. از همین رو، آینده این حوزه احتمالاً نه در ممنوعیت کامل و نه در آزادی مطلق، بلکه در طراحی چارچوب‌های Secure by Design، AI Governance  و Identity & Access Controls  برای استفاده مسئولانه از مدل‌های پیشرفته خواهد بود.

آنچه امروز در واشنگتن در حال تصمیم‌گیری است، صرفاً یک سیاست داخلی نیست؛ بلکه می‌تواند الگوی مقررات‌گذاری هوش مصنوعی در سراسر جهان را شکل دهد. نتیجه این تصمیم، بر نحوه توسعه ابزارهای دفاع سایبری، همکاری‌های تحقیقاتی، رقابت فناوری و حتی توازن قدرت دیجیتال میان آمریکا و چین در سال‌های آینده اثرگذار خواهد بود. برای سازمان‌ها و مدیران امنیت، این تحول یادآور آن است که آینده تاب‌آوری سایبری بیش از هر زمان دیگری با سیاست‌های حکمرانی هوش مصنوعی گره خورده است.

گزارش خطا
ارسال پیام
captcha
پیشنهاد سردبیر بیشتر
آخرین اخبار
پربازدید
خانه پربازدید پربحث