اجرای قانون هوش مصنوعی اتحادیه اروپا آغاز شد؛ مدل‌های AI زیر ذره‌بین نهادهای نظارتی

اتحادیه اروپا اجرای AI Act را کلید زد

اتحادیه اروپا رسماً اجرای قانون هوش مصنوعی (AI Act) را آغاز کرد؛ قانونی که هدف آن افزایش شفافیت، کاهش سوءاستفاده از هوش مصنوعی و نظارت دقیق‌تر بر مدل‌های پیشرفته AI است. از ۲ آگوست ۲۰۲۶، دفتر هوش مصنوعی کمیسیون اروپا (AI Office) به همراه نهادهای نظارتی کشورهای عضو، مسئول اجرای این قانون شده‌اند.

این اقدام، یکی از مهم‌ترین گام‌های اروپا برای قانون‌مند کردن فناوری هوش مصنوعی محسوب می‌شود و شرکت‌هایی مانند OpenAI، Google، Anthropic و سایر توسعه‌دهندگان مدل‌های هوش مصنوعی را مستقیماً تحت تأثیر قرار می‌دهد.

الزام به شفافیت در استفاده از هوش مصنوعی

یکی از مهم‌ترین بخش‌های قانون AI Act، الزام شرکت‌ها به شفاف‌سازی استفاده از هوش مصنوعی است. بر اساس این مقررات:

• چت‌بات‌ها باید به کاربران اعلام کنند که با یک سیستم هوش مصنوعی در حال گفتگو هستند.
• تصاویر، ویدئوها یا فایل‌های صوتی دیپ‌فیک باید برچسب مشخص داشته باشند.
• محتوای تولید یا ویرایش‌شده توسط هوش مصنوعی باید دارای نشانه‌های قابل تشخیص برای سیستم‌های خودکار باشد.
• کاربران باید بتوانند تشخیص دهند که یک محتوا توسط انسان تولید شده یا توسط AI.

هدف از این قوانین، جلوگیری از انتشار اطلاعات گمراه‌کننده، مقابله با جعل دیجیتال و افزایش اعتماد عمومی به فناوری‌های هوش مصنوعی عنوان شده است.

جریمه‌های سنگین برای شرکت‌های متخلف

اتحادیه اروپا برای شرکت‌هایی که الزامات AI Act را رعایت نکنند، جریمه‌های قابل توجهی در نظر گرفته است.

بر اساس این قانون، متخلفان ممکن است تا ۱۵ میلیون یورو یا ۳ درصد از گردش مالی سالانه جهانی شرکت (هرکدام که بیشتر باشد) جریمه شوند.

این موضوع نشان می‌دهد که اتحادیه اروپا قصد دارد اجرای قانون را با جدیت دنبال کند و صرفاً به ارائه توصیه‌های اخلاقی بسنده نخواهد کرد.

مدل‌های هوش مصنوعی عمومی (GPAI) زیر نظارت ویژه

بخش مهمی از قانون جدید، مدل‌های General-Purpose AI (GPAI) را هدف قرار داده است؛ مدل‌هایی که زیربنای بسیاری از سرویس‌های هوش مصنوعی، از جمله دستیارهای هوشمند، چت‌بات‌ها و AI Agentها هستند.

توسعه‌دهندگان این مدل‌ها موظف خواهند بود:

• مستندات فنی مدل را در اختیار نهادهای نظارتی قرار دهند.
• سیاست مشخصی برای رعایت حقوق مالکیت فکری (Copyright) داشته باشند.
• خلاصه‌ای از داده‌های آموزشی مورد استفاده برای آموزش مدل را منتشر کنند.
• خطرات احتمالی مدل را ارزیابی و مدیریت کنند.

نگرانی درباره مدل‌های قدرتمند هوش مصنوعی

کمیسیون اروپا معتقد است مدل‌های پیشرفته هوش مصنوعی می‌توانند در کنار مزایای فراوان، خطرات جدیدی نیز ایجاد کنند.

از جمله مهم‌ترین این تهدیدها می‌توان به موارد زیر اشاره کرد:

• حملات سایبری پیشرفته
• تولید محتوای جعلی و گمراه‌کننده
• دستکاری افکار عمومی
• تهدید حقوق اساسی شهروندان
• سوءاستفاده در حوزه‌های شیمیایی، زیستی و هسته‌ای

به همین دلیل، توسعه‌دهندگان مدل‌های قدرتمند باید برنامه مشخصی برای مدیریت این ریسک‌ها ارائه کنند.

همه بخش‌های AI Act هم‌زمان اجرا نمی‌شوند

اگرچه اجرای بخشی از قانون از مرداد ۲۰۲۶ آغاز شده، اما برخی مقررات مهم در سال‌های آینده اجرایی خواهند شد.

طبق برنامه اعلام‌شده:

• مقررات مربوط به سامانه‌های هوش مصنوعی پرخطر از دسامبر ۲۰۲۷ اجرا می‌شود.
• قوانین مربوط به محصولات دارای هوش مصنوعی پرخطر از آگوست ۲۰۲۸ لازم‌الاجرا خواهد بود.

در مقابل، اتحادیه اروپا تصمیم گرفته است ممنوعیت استفاده از هوش مصنوعی برای تولید محتوای غیراخلاقی، تصاویر جنسی بدون رضایت افراد و محتوای مرتبط با سوءاستفاده از کودکان را زودتر و از دسامبر ۲۰۲۶ اجرایی کند.

چه نهادی مسئول اجرای قانون است؟

اجرای AI Act میان چند نهاد تقسیم شده است.

دفتر هوش مصنوعی کمیسیون اروپا مسئول نظارت مستقیم بر توسعه‌دهندگان مدل‌های عمومی هوش مصنوعی است و اختیار دارد:

• مستندات فنی شرکت‌ها را بررسی کند.
• ارزیابی‌های مستقل انجام دهد.
• اصلاحات اجباری را درخواست کند.
• در صورت تخلف، جریمه‌های مالی اعمال کند.

در کنار آن، نهادهای ملی کشورهای عضو نیز بر سامانه‌های هوش مصنوعی فعال در قلمرو خود نظارت خواهند داشت.

آیا AI Act واقعاً مؤثر خواهد بود؟

با وجود استقبال بسیاری از کارشناسان، برخی معتقدند قانون‌گذاری به‌تنهایی برای مدیریت هوش مصنوعی کافی نیست.

برخی متخصصان حوزه حاکمیت داده و مدیریت ریسک بر این باورند که افزایش آگاهی کاربران درباره نحوه جمع‌آوری، پردازش و استفاده از داده‌ها توسط ابزارهای هوش مصنوعی، در بسیاری از موارد تأثیر بیشتری نسبت به قوانین خواهد داشت.

به همین دلیل، موفقیت AI Act علاوه بر اجرای دقیق قانون، به همکاری شرکت‌های فناوری، نهادهای نظارتی و افزایش سواد دیجیتال کاربران نیز وابسته است.

جمع‌بندی

آغاز اجرای قانون AI Act نقطه عطفی در تنظیم‌گری هوش مصنوعی در جهان محسوب می‌شود. اتحادیه اروپا تلاش می‌کند با ایجاد چارچوب‌های شفاف، از یک سو نوآوری در حوزه هوش مصنوعی را حفظ کند و از سوی دیگر، خطراتی مانند دیپ‌فیک، اطلاعات جعلی، حملات سایبری و نقض حقوق کاربران را کاهش دهد. در صورت موفقیت این قانون، احتمال می‌رود سایر کشورها نیز از الگوی اروپا برای تدوین مقررات مشابه استفاده کنند.