هوش مصنوعی در سایه (Shadow AI) و چالش‌های آن در سازمان‌ها

علیرضا چابکرو، پژوهشگر حوزه امنیت سایبری، هوش مصنوعی و مدرس دانشگاه

یکی از موضوعاتی که در حال حاضر برای جوامع در حال توسعه اهمیت یافته است، چگونگی استفاده از فناوری‌های مدرن مانند هوش مصنوعی و ابزارها یا مشکلات مربوط به آن‌ها است. پیش از ورود به این موضوع، نحوه مواجهه جوامع، نخبگان و مسئولان ذیربط مهم‌تر از خود مبحث است. این به معنی نادیده گرفتن تأثیرات این پدیده شگرف، عمیق و متنوع بر زندگی امروزی ما نیست؛ چرا که فناوری‌های نوین مؤثر در عرصه‌های شخصی، سازمانی، اجتماعی و حتی حکمرانی به ناچار اهمیت ویژه‌ای پیدا کرده‌اند.

متأسفانه رسم بر این شده که همانند اواخر دوره قاجار و اوایل قرن بیستم، که جامعه ما با پدیده‌های صنعتی تأثیرگذار روبه‌رو شده بود، مسئولان و نخبگان در مواجهه با پدیده‌های فناورانه، هیجان‌زده شده و با ولع وصف‌ناپذیری تنها به دنبال بهره‌جویی از امکانات حاصل از این قبیل فناوری‌ها هستند. زیرساخت‌ها تنها متوجه بهره‌برداری‌های هرچه بیشتر شده و کمتر به تأثیرات جدی این قبیل پدیده‌ها بر لایه‌های مختلف زندگی مخاطبان می‌پردازند.

در حال حاضر در این مواجهه و چالش‌های پی‌درپی، رشته‌های فنی بیشتر درگیر شده و شاخه‌های علوم انسانی همانند روان‌شناسی، جامعه‌شناسی، فلسفه علوم، علوم تربیتی، آموزش، هنر، علوم دینی و... کمترین درگیری و سهم را در ارزیابی تأثیرات جدی این فناوری دارند. اگر هم به این فناوری کمترین توجهی کنند، آن را تنها ابزاری برای انتقال مفاهیم مورد علاقه خود دیده و توجهی کمتر به تأثیرات آن دارند (ابزارگرایی به‌جای مفهوم‌گرایی).

ما پیش از این، نحوه ورود و به‌کارگیری فناوری‌های نوین در اوایل قرن بیستم را تجربه کرده‌ایم، اما از تاریخ گذشته خود درسی برای انتخاب روش‌های بهینه در این رویارویی نگرفته‌ایم. متأسفانه آزموده‌ای هستیم که هنوز بر استفاده از گزاره «آزمون و خطا» اصرار می‌کنیم، در حالی که در این قرن جدید (قرن ۲۱) فرصت‌ها به سهولت از دست می‌روند. لحظه‌ای درنگ می‌تواند سال‌ها عقب‌ماندگی و مشکلات عدیده غیرقابل‌حل و پیچیده بر ما عارض کند. هم اکنون خلق مداوم و متنوع پدیده‌های شگفت‌انگیز اطلاعاتی به گونه‌ای است که «تا می‌آییم حال را بررسی کرده و برای آن چاره‌ای بیندیشیم، آینده را از دست داده‌ایم»؛ لذا در حال دست‌وپا زدن در سونامی اطلاعات و جستارهای وابسته به آن هستیم.

فراگیری هوش مصنوعی

اخیراً و پس از معرفی و فراگیری ابزار قدرتمند هوش مصنوعی (AI) یعنی چت‌جی‌پتی (ChatGPT)، سرعت مطرح شدن «استفاده از هوش مصنوعی» در امور شخصی، سازمانی و به جرئت در اغلب ابعاد فردی، اجتماعی، هنری، نظامی، آموزشی و اقتصادی کشور، شتابی هندسی و غیرقابل‌کنترل به خود گرفته است. هوش مصنوعی با سرعتی باورنکردنی در حال درنوردیدن دنیای مدرن امروز و دنیای فردای غیرقابل‌پیش‌بینی است.

در بین عوام و بعضاً خواص، این فناوری از حالت یک ابزار نرم‌افزاری ساده، در حال تبدیل شدن به یک برند و پرستیژ در میان مخاطبان است و پس از آن، چتر حکمرانی خود را بر اغلب جنبه‌های بشری اعم از اقتصاد، فرهنگ، صنایع، سیستم‌های دفاعی، هنر، تبلیغات، بازاریابی و حتی عرصه حکمرانی می‌گستراند.

موضوع اصلی این نوشتار، بررسی روند کلی استفاده از هوش مصنوعی و تأثیرات آن در لایه‌های مختلف زندگی نیست؛ بلکه به پدیده‌ای فراتر و کمتر دیده‌شده در این عرصه خواهیم پرداخت.

«هوش مصنوعی در سایه» چیست؟

یکی از پدیده‌های حاشیه‌ای اما جدی منتسب به فناوری‌های نوین، «هوش مصنوعی در سایه» یا همان (Shadow AI) است. بر اساس برآوردهای ابتدایی، ۷۸ درصد از این ابزارها در سیستم‌های ابری مورد استفاده قرار می‌گیرند که این مقدار رقمی بزرگ و قابل‌توجه به شمار می‌آید.

شاید بتوان برای درک هرچه بهتر «هوش مصنوعی در سایه»، آن را به بخش پنهان شبکه اینترنت (Dark Net) تشبیه کرد که ما تنها قله آن را در صفحات اینترنت یا شبکه‌های اجتماعی می‌بینیم؛ پدیده‌ای که هم‌پای توسعه روزافزون هوش مصنوعی در دنیای سایبرنتیک، در حال تکثیر و تنوع‌بخشی به ساختار خود است.

استفاده از ابزارهای غیرقابل‌اعتماد «هوش مصنوعی در سایه» موجب شده تا سیستم‌های رسمی و تعریف‌شده هوش مصنوعی (سیستم‌های قابل‌کنترل و ارزیابی) رفته‌رفته غیرقابل‌اعتماد شده و نتایجی غیرمنطققی به کاربران ارائه دهند. لذا پاسخ‌های غیرقابل‌اعتمادی که با دخالت لجام‌گسیخته آن‌ها در بسترهای هوش مصنوعی تولید می‌شود، چالش‌های جدی را در این عرصه ایجاد کرده است.

«هوش مصنوعی در سایه» به معنی استفاده از ابزارهای بدون کنترل، ارزیابی و راستی‌آزمایی در مسیرها، منابع و ساختار تحلیلی هوش مصنوعی است؛ در حالی که کاربران عموماً تنها نتایج ظاهری و غیرقابل‌اعتماد آن را مشاهده می‌کنند.

ویژگی‌ها و خطرات هوش مصنوعی در سایه

در این بستر، متغیرهای مؤثّر و واقعی در فرایندهای جمع‌آوری، پردازش، نتیجه‌گیری و احتمالاً آینده‌پژوهی توسط هوش مصنوعی لحاظ نشده یا دچار خطا می‌شوند و به همین دلیل نمی‌تواند نتایج دقیقی به کاربران پیشنهاد دهد. این پدیده مخرب و غیرقابل‌اعتماد توانسته است مقولاتی مانند نظارت، امنیت، فناوری‌های متنوع وابسته به سایبر، حاکمیت‌سازی، گرافیک‌های غیرمنطقی یا پاسخ‌های بی‌ربط به پرسش‌ها را ایجاد کند.

از آنجایی که در حال حاضر بیشتر کاربران هوش مصنوعی تمایل دارند برای ارتقای مراتب سازمانی یا کسب موفقیت‌های انفجاری از هوش مصنوعی کمک بگیرند، ضریب نفوذ «هوش مصنوعی در سایه» روزبه‌روز بیشتر می‌شود.

به‌طور معمول و خلاصه، هوش مصنوعی داده‌ها را ضبط، جمع‌آوری و دسته‌بندی کرده و در یک چارچوب ازپیش‌تعریف‌شده به تجزیه‌و‌تحلیل منطقی و نتیجه‌گیری می‌پردازد. خودش را آموزش می‌دهد (Machine Training)، از رفتارش بازخورد می‌گیرد (Feedback) و احتمالاً آن را اصلاح می‌کند. اما هوش مصنوعی در سایه از قوانین تنظیم‌گری داده‌ها و نظارت بر منابع و مسیرها تبعیت نمی‌کند؛ لذا انتظار می‌رود در طولانی‌مدت به نوعی هرزگرد سایبری تبدیل شود.

این ابزار به‌طور معمول از پیوست‌های منطقی و تعریف‌شده‌ای که بتواند از صحت یا سقم داده‌ها نگهبانی کرده یا آن‌ها را به‌صورت منطقی دسته‌بندی کند، پیروی نمی‌کند. هرچند هوش مصنوعی در سایه همانند بدافزارهای برنامه‌ای در محیط‌های اینترنتی با نیت بد و مخرب ساخته نمی‌شود، ولی به‌طور جدی درگیر شکاف‌های محتوایی و امنیتی می‌گردد.

اصرار کاربران بر پاسخ‌های نادرست هوش مصنوعی، منابع نامعتبر مورد استفاده یا نتیجه‌گیری‌های غلط ارائه شده — که موجب تغییر مسیر هوش مصنوعی و پیشنهاد پاسخ‌های انحرافی می‌شود — تنها یک مورد از فعالیت «هوش مصنوعی در سایه» است. این موضوع را نباید با روند طبیعی یادگیری و ارتقای هوش مصنوعی رسمی اشتباه گرفت.

شاید این توهم در بین علاقه‌مندان هوش مصنوعی به وجود بیاید که چون ابزارهای هوش مصنوعی یاد می‌گیرند، ارزیابی کرده و داده‌ها یا روش‌های خود را تصحیح می‌کنند، هوش مصنوعی در سایه نیز مستثنی از این قاعده نیست. اما باید توجه داشت که هوش مصنوعی در سایه نیز در خارج از چارچوب‌های رسمی، روش‌های غیرقابل‌اتکای خود را تصحیح کرده و به حیات آسیب‌زای خود ادامه می‌دهد.

هوش مصنوعی در سایه در محیط‌های سازمانی

می‌دانیم که در مهندسی توسعه‌ای، اولویت با ارائه داده‌های کارآمد، مشکل‌سنجی، راه‌حل‌یابی و... است. کدهای برنامه‌نویسی برای ورود به پنجره‌های متنوع هوش مصنوعی سریع‌تر نوشته شده و داده‌ها به اشتراک گذاشته می‌شوند تا اشکال‌زدایی شده و نتایج، نزدیک‌ترین نتیجه به جهان واقعی یا هدف از‌پیش‌تعریف‌شده باشند. بنابراین ماشین‌های جستجو در دنیای اینترنت و داده‌های عظیم، بیشترین نقش را داشته و دارند.

زمانی «هوش مصنوعی در سایه» بیشتر وارد عرصه سازمانی می‌شود که استفاده از هوش مصنوعی در رقابت‌های سازمانی نقش‌آفرین باشد. در این صورت این پرسش اساسی مطرح می‌شود:

پرسش کلیدی: «چیزی را که نمی‌بینی، چگونه می‌خواهی کنترل کنی؟»

از آنجایی که سازمان‌های امروزی فاقد بخشی به عنوان «مدیریت هوش مصنوعی» در درون خود هستند، هوش مصنوعی در سایه می‌تواند در هر بخشی خودش را ظاهر کرده و تأثیرگذار باشد. در این صورت، هرچند که در ابتدا بهره‌وری‌ها بهبود می‌یابد، اما دو عنصر امنیت و انطباق داده‌ها نادیده گرفته شده و ریسک‌های سازمانی یکی پس از دیگری خود را نشان می‌دهند. در این حالت انتظار می‌رود که پس از مدتی، استفاده از هوش مصنوعی به ضد خودش تبدیل شود.

جدول مقایسه‌ای هوش مصنوعی رسمی و هوش مصنوعی در سایه

در جدول زیر، مقایسه جامع ویژگی‌های هوش مصنوعی رسمی و هوش مصنوعی در سایه آورده شده است:

مشکلاتی که هوش مصنوعی در سایه ایجاد می‌کند

·        ایجاد مشکل در انتشار داده‌ها و منابع

·        ایجاد مشکل در اشتراک‌گذاری داده‌ها و منابع

·        ایجاد مشکل در کدهای منبع

·        از بین رفتن مالکیت معنوی در محتوا

·        ایجاد محدودیت جدی برای ایده‌های جدید

·        ایجاد راه‌های اشتباه و غیرمنطقی برای رسیدن به داده‌ها

·        نتیجه‌گیری‌های غیرواقعی

·        از بین رفتن اعتماد کاربران به داده‌های ارائه‌شده توسط هوش‌های مصنوعی

·        پدید آمدن سازمان‌های غیرقابل‌اعتماد و نامتوازن در بخش‌های مختلف اقتصادی، بازاریابی، نظامی، هنری و...

·        تولد تعارض‌های متنوع در محیط‌های واقعی

·        گیجی در استفاده و نتیجه‌گیری از داده‌ها و...

پیشنهاداتی برای مقابله با هوش مصنوعی در سایه

·        شناسایی ابزارهای هوش مصنوعی در سایه

·        ایجاد محدودیت برای ابزارهای هوش مصنوعی در سایه

·        محافظت از هوش مصنوعی رسمی با نوشتن پروتکل‌های یکسان و تعهدآور

·        ایجاد الگوریتم‌هایی برای شناسایی و کنترل هوش مصنوعی در سایه توسط هوش مصنوعی رسمی (ایجاد نوعی ایمنی ذاتی یا Self-Immunity)

·        رصد متناوب داده‌ها و تقاطع دادن آن‌ها با داده‌های رسمی و صحیح به‌صورت داینامیک

·        ایجاد کنترل و نظارت بر ورودی‌های سازمان‌ها به‌ویژه سازمان‌های مرجع و سرویس‌دهنده هوش مصنوعی

·        نظارت بر ترافیک شبکه

·        نظارت بر مسیرهای جمع‌آوری در شبکه‌ها

·        بررسی مداوم سرویس‌های ابری و نرم‌افزار به عنوان سرویس (SaaS)

·        استانداردسازی‌های مستمر و ارزیابی‌های مداوم...