Grok وارد Word، Excel و PowerPoint شد؛ آیا داده‌های سازمانی در برابر ریسک‌های هوش مصنوعی قرار می‌گیرند؟

مایکروسافت با اضافه‌کردن مدل‌های هوش مصنوعی Grok به Microsoft 365 Copilot، امکان استفاده از مدل‌های توسعه‌یافته توسط xAI را در ابزارهای پرکاربرد اداری فراهم کرده است. این قابلیت در مرحله آزمایشی عرضه می‌شود؛ اما ورود مدل‌های خارجی به محیط‌های کاری، پرسش‌هایی درباره حریم خصوصی، کنترل داده‌ها و امنیت اطلاعات سازمانی ایجاد می‌کند.

مایکروسافت Grok را به ابزارهای اداری آورد

مایکروسافت اعلام کرده است که مدل‌های Grok از شرکت xAI در قالب برنامه Frontier به‌صورت محدود و آزمایشی در Copilot داخل Word، Excel و PowerPoint عرضه می‌شوند. هدف این برنامه، آزمایش قابلیت‌های جدید هوش مصنوعی و دریافت بازخورد کاربران پیش از عرضه گسترده‌تر است.

این اقدام بخشی از رویکرد مدل‌محور مایکروسافت در توسعه Copilot است؛ رویکردی که به کاربران و سازمان‌ها امکان می‌دهد در برخی سناریوها از مدل‌های هوش مصنوعی متنوع‌تری استفاده کنند.

در مرحله پیش‌نمایش، دسترسی به Grok برای کاربران برخی مناطق، از جمله اتحادیه اروپا، کشورهای عضو انجمن تجارت آزاد اروپا و بریتانیا، محدود شده است.

چرا ورود مدل‌های خارجی به محیط سازمانی اهمیت امنیتی دارد؟

ابزارهایی مانند Word و Excel ممکن است حاوی اطلاعات حساس باشند؛ از قراردادها و گزارش‌های مالی گرفته تا اطلاعات مشتریان، برنامه‌های کسب‌وکار و اسناد داخلی. زمانی که یک سازمان از قابلیت‌های هوش مصنوعی متصل به سرویس‌های خارجی استفاده می‌کند، باید مشخص باشد چه داده‌ای پردازش می‌شود، این پردازش در کجا انجام می‌گیرد و چه سیاست‌هایی بر آن حاکم است.

۱. کنترل محل پردازش داده‌ها

یکی از موضوعات مهم در امنیت اطلاعات سازمانی، محل پردازش و نگهداری داده‌هاست. سازمان‌هایی که به الزامات حاکمیت داده، قوانین محلی یا سیاست‌های داخلی پایبند هستند، باید بررسی کنند آیا استفاده از یک مدل خارجی با این الزامات سازگار است یا خیر.

پردازش خارج از زیرساخت مدیریت‌شده مایکروسافت، در صورت وجود، می‌تواند نیازمند ارزیابی جداگانه قراردادها، سیاست‌های حریم خصوصی و کنترل‌های انتقال داده باشد.

۲. خطر افشای ناخواسته اطلاعات

کاربران ممکن است بدون توجه، اطلاعات محرمانه را در اختیار یک ابزار هوش مصنوعی قرار دهند؛ برای مثال، با بارگذاری یک فایل مالی، قراردادی یا گزارش داخلی برای خلاصه‌سازی یا تحلیل.

این مسئله لزوماً به معنی نشت داده در Grok نیست، اما نشان می‌دهد سازمان‌ها باید حدود استفاده از مدل‌های خارجی را روشن کنند و دسترسی به داده‌های حساس را تحت کنترل داشته باشند.

۳. مجوزها و نظارت مدیران فناوری اطلاعات

فعال‌سازی مدل‌های خارجی در محیط سازمانی باید با سیاست‌های امنیتی و مجوزهای تعیین‌شده توسط مدیران IT هماهنگ باشد. بررسی ناشر، شرایط استفاده، نحوه پردازش داده‌ها و سطح دسترسی ابزار، از اقداماتی است که می‌تواند ریسک استفاده بدون کنترل را کاهش دهد.

۴. ارزیابی امنیتی پیش از استفاده گسترده

قابلیت‌های آزمایشی هوش مصنوعی ممکن است در طول زمان تغییر کنند. سازمان‌ها بهتر است پیش از استفاده از این مدل‌ها در فرایندهای حساس، عملکرد، دقت، حریم خصوصی، کنترل دسترسی و سازگاری با الزامات امنیتی خود را ارزیابی کنند.

سازمان‌ها چگونه ریسک استفاده از Grok و مدل‌های مشابه را کاهش دهند؟

• تعیین سیاست استفاده از هوش مصنوعی: مشخص‌کردن اینکه چه نوع داده‌هایی مجاز به ورود به ابزارهای AI هستند.
• کنترل دسترسی: فعال‌سازی مدل‌های خارجی تنها برای کاربران و گروه‌های مورد تأیید.
• طبقه‌بندی اطلاعات: شناسایی داده‌های عمومی، داخلی، محرمانه و بسیار حساس پیش از استفاده از ابزارهای هوش مصنوعی.
• بررسی شرایط پردازش داده: مطالعه سیاست‌های حریم خصوصی، قراردادهای سازمانی و محل پردازش اطلاعات.
• آموزش کارکنان: آگاهی‌رسانی درباره خطر بارگذاری اطلاعات محرمانه در سرویس‌های هوش مصنوعی.
• پایش و بازبینی: بررسی دوره‌ای نحوه استفاده از مدل‌ها و تغییر سیاست‌ها در صورت افزایش ریسک.

جمع‌بندی

ورود Grok به Microsoft 365 Copilot نشان‌دهنده گسترش انتخاب مدل‌های هوش مصنوعی در ابزارهای اداری است. با این حال، سازمان‌ها نباید صرفاً بر اساس قابلیت‌های تولید محتوا یا تحلیل داده تصمیم بگیرند.

پیش از فعال‌سازی مدل‌های خارجی، ارزیابی امنیتی، کنترل دسترسی، بررسی حریم خصوصی و تعیین سیاست روشن برای داده‌های حساس ضروری است. نوآوری در هوش مصنوعی زمانی ارزشمندتر خواهد بود که با حاکمیت داده و امنیت اطلاعات همراه شود.

اتاق تحلیل ۲۴ نیوز | دیدگاه تحلیلی بهراد یوسفی