از چتجیپیتی تا دیپسیک؛ کدام هوش مصنوعی ریسک امنیتی بیشتری دارد؟
تنها چند روز پس از رونمایی میتوس، یکی از قدرتمندترین مدلهای هوش مصنوعی آنتروپیک، دولت آمریکا دسترسی به این مدل و نسخه تجاری آن یعنی فیبل ۵ را متوقف کرد. تصمیمی که بار دیگر مخاطرات امنیتی مدلهای هوش مصنوعی را در مرکز توجه قرار داد و این پرسش را مطرح کرد: مدلهای مختلف هوش مصنوعی از چتجیپیتی و گراک گرفته تا جمنای و دیپسیک چه تهدیداتی برای دولتها، سازمانها و کاربران عادی دارند؟
محدودیتهای دولتی؛ از حریم خصوصی تا امنیت ملی
دستور دولت آمریکا برای توقف دسترسی به میتوس، یکی از متفاوتترین پروندههای محدودسازی هوش مصنوعی در سالهای اخیر به شمار میرود. هر چند مدلهای مختلف هوش مصنوعی پیش از این به دلایلی مانند حریم خصوصی، حفاظت از دادهها و انتشار اطلاعات نادرست با محدودیتهایی مواجه شده بودند، اما پرونده میتوس از این جهت اهمیت دارد که نگرانیها این بار نه درباره دادهها بلکه بر توانمندیهای پیشرفته سایبری و خطرات احتمالی آن برای امنیت ملی متمرکز است.
تاکنون هیچ گزارشی مبنی بر دستور دولت آمریکا برای محدودسازی فعالیت چتجیپی، کلاد، گراک و جمنای منتشر نشده است. البته، برخی دولتها محدودیتهایی برای استفاده از این مدلها اعمال کردهاند. ایتالیا در سال ۲۰۲۳ استفاده از چتجیپیتی را به دلیل نگرانی درباره جمعآوری دادهها و حفاظت از کودکان بهطور موقت متوقف کرد. همچنین، برخی دولتها نیز استفاده از مدلهای جمنای و چتجیپیتی را برای کارکنان به دلیل نشت اطلاعات محرمانه محدود کردهاند. علاوه بر این، چند کشور و نهاد دولتی نیز نسبت به انتقال دادهها از طریق دیپسیک هشدار داده یا استفاده از آن را در دستگاههای دولتی محدود کردهاند. با این همه، هر چند محدودیتها برای مدلهای هوش مصنوعی به حدی شدید نشده که به توقف فعالیت آنها منجر شود، اما استفاده هر یک از مدلهای هوش مصنوعی با موجی از نگرانی دولتها و سازمانها مواجه بوده است.
چرا شرکتها از چتجیپیتی و جمنای میترسند؟
نگرانی عمده درباره استفاده از چتجیپیتی و جمنای، خطر نشت اطلاعات سازمانی به دلیل استفاده کارکنان از این مدلهای هوش مصنوعی است. سازمانها در این خصوص از اینکه کارکنان اسناد محرمانه را در چتبات وارد کنند، کدهای اختصاصی شرکت را به مدلها ارسال کنند و یا اطلاعات حساس بدون کنترل وارد سامانههای ابری شوند، ابراز نگرانی میکنند. آنها برای رفع این نگرانیها مجموعه محدودیتهایی برای کارکنان در استفاده از هوش مصنوعی اعمال کردهاند. نگرانی از نشت اطلاعات سازمانی با هشدارهای GDPR و نهادهای نظارتی به دلیل نبود شفافیت در استفاده از دادهها، نبود مبنای قانونی کافی برای پردازش دادههای کاربران و ریسک افشای دادههای شخصی افزایش یافت. در چنین شرایطی، شرکتهای اوپنایآی و گوگل سعی کردند تا با ورود نسخههای سازمانیهای و کنترل داده و تفکیک دادههای سازمانی از مصرف عمومی نگرانی شرکتها از نشت اطلاعات محرمانه را رفع کنند. از طرف دیگر، شرکتها هم از ابزارهای فنی همچون لاگگیری و مانیتورینگ درخواستها، پروکسیهای داخلی برای فیلترکردن داده حساس و فایروال هوش مصنوعی برای کاهش ریسک استفاده میکنند.
گراک؛ هوش مصنوعی آزادتر یا پرریسکتر؟
در حالی نگرانیها درباره استفاده چتجیپیتی و جمنای مربوط به خطرات احتمال نشت داده بهخصوص در سازمانهاست، بحثها درباره گراک، هوش مصنوعی ایلان ماسک حول محور رویکرد بازتر این مدل نسبت به محدودیتهای محتوایی است. عمده انتقادات نسبت به گراک درباره سطح متفاوت محدودیت محتوا نسبت به سایر مدلها و تولید پاسخهای کمتر فیلتر شده که نگرانیها را از افزایش تولید محتوای حساس یا سوءاستفاده پذیر گسترش داده است. همچنین، گراک به دلیل اتصال مستقیم به دادههای ایکس و ریسک وابستگی به یک اکوسیستم بسته نیز محل بحث است. از نظر منتقدین، ریسک تولید اطلاعات نادقیق یا آلوده و حریم خصوصی دادههای پلتفرم ایکس در هوش مصنوعی گراک بالاست. همچنین، نگرانیهایی درباره شفافیت الگوریتمی و سازوکارهای حکمرانی و نظارت مستقل آن مطرح میشود. علاوه بر این، رسانههای رویترز و تککرانچ گزارشهایی درباره تولید تصاویر غیر مجاز و دیپفیک و دسترسی نوجوانان به محتوای نامناسب و ضعفهای فنی در ایمنی کودک منتشر کردهاند. با این حال، ایلان ماسک در پاسخ به این انتقادها بارها تاکید کرده که هدف گراک بر محدودیت حداقل و حقیقتمحوری حداکثر متمرکز بوده است. در مجموع، گراک تاکنون با تهدیدهای امنیت ملی یا ممنوعیتهای دولتی گسترده مواجه نشده و بیشتر در مرکز بحثهای ایمنی محتوا و سیاست تعدیل قرار گرفته است.
دیپسیک در مرکز نگرانی دولتها
بر خلاف چتجیپیتی، جمنای و گراک که با محدودیتهای جدی از سمت دولتها مواجه نشدهاند، هوش مصنوعی دیپسیک در یک سال اخیر با بیشترین واکنشهای دولتی روبهرو شده است. این مدل به دلیل ذخیرهسازی دادهها در چین، ابهامات دسترسی به دادههای کاربران و نگرانی از انتقال اطلاعات دولتی و سازمانی با محدودیت ممنوعیت استفاده در کشورهایی مانند استرالیا، کره جنوبی، تایوان و برخی نهادهای آمریکایی مواجه شده است. حتی در آمریکا قرار گرفتن دیپسیک در فهرست شرکتهای دارای ریسک امنیتی نیز مطرح شده است. رویترز نیز گزارش داده که برخی نهادهای آمریکایی این مدل را به دلیل نگرانیهای امنیت ملی و ارتباط احتمالی با منافع راهبردی چین زیر ذرهبین قرار دادهاند. با این اوصاف، دیپسیک در بین مدلهای مختلف هوش مصنوعی به دلیل نگرانیهای مرتبط با داده و حاکمیت دیجیتال بیشترین حساسیت دولتها و نهادهای امنیتی را برانگیخته است. میتوس نیز با بیشترین نگرانی فنی از منظر امنیت سایبری و قابلیتهای تهاجمی بالقوه مواجه شده است.
