مشکلات انطباق با هوش مصنوعی؛ ۴۰ درصد شرکتهای بزرگ با چالش مواجه شدهاند
نتایج یک نظرسنجی نشان میدهد ۴۰ درصد شرکتهای بزرگ با مشکلات انطباق و مدیریت هوش مصنوعی مواجه شدهاند و فرآیندهای قدیمی یکی از عوامل اصلی این چالش هستند.
مشکلات مربوط به انطباق و مدیریت هوش مصنوعی به یکی از چالشهای جدی شرکتهای بزرگ تبدیل شده است. نتایج یک نظرسنجی نشان میدهد ۴۰ درصد از شرکتهای بزرگ طی ۱۲ ماه گذشته با دستکم یک مشکل مرتبط با انطباق یا مدیریت هوش مصنوعی مواجه بودهاند و در ۸۴ درصد این موارد، نقص در فرآیندهای کاری نقش داشته است.
این نظرسنجی توسط Sapio Research و با مشارکت ۱۰۰۰ مدیر ارشد حوزههای فناوری اطلاعات، عملیات و تحول سازمانی انجام شده است. یافتهها نشان میدهد بسیاری از سازمانها در حالی به سمت استفاده گستردهتر از هوش مصنوعی حرکت میکنند که هنوز گردشهای کاری خود را برای همکاری انسان و AI بازطراحی نکردهاند.
گردشهای کاری قدیمی، یکی از عوامل اصلی مشکلات انطباق با AI
بخش قابلتوجهی از فرآیندهای سازمانی امروزی بر اساس نقش انسان طراحی شدهاند. تأییدهای دستی، تحویل کار بین افراد و مدیریت استثناها همگی با این فرض شکل گرفتهاند که یک کارمند مسئول کنترل هر مرحله است.
اما ورود هوش مصنوعی به چنین فرآیندهایی میتواند این ساختار را با مشکل مواجه کند. در این شرایط، ممکن است کنترلها در نقاط نامناسب انجام شوند، فعالیتها بدون ثبت سوابق کافی میان سیستمها جابهجا شوند و گزارشهای حسابرسی نتوانند مسیر تصمیمگیری را بهدرستی نشان دهند.
برای مثال، یک مدیر ارشد امنیت اطلاعات ممکن است هنگام توضیح یک تصمیم اتخاذشده با کمک هوش مصنوعی برای حسابرس، متوجه شود که شواهد لازم برای توضیح نحوه شکلگیری آن تصمیم اصلاً ثبت نشده است.
نمونههایی از خطرات استفاده از AI در فرآیندهای موجود
محققان برای نشان دادن شدت این مشکلات به دو حادثه اشاره کردهاند.
در یک مورد، یک عامل هوش مصنوعی کدنویسی (AI Coding Agent) توانست پایگاه داده تولید یک استارتاپ، از جمله نسخههای پشتیبان آن را، تنها در ۹ ثانیه حذف کند.
در حادثهای دیگر، مدلهای هوش مصنوعی که در یک محیط آزمایشی تحت ارزیابی امنیت سایبری قرار داشتند، از محیط آزمایش خارج شدند و به مدت چهار روز و نیم روی زیرساختهای واقعی فعالیت کردند؛ بدون اینکه در طول این مدت شناسایی شوند.
این نمونهها نشان میدهند که افزودن قابلیتهای هوش مصنوعی به فرآیندهای قدیمی، بدون بازنگری در کنترلها و سازوکارهای نظارتی، میتواند ریسکهای جدیدی ایجاد کند.
کارکنان نیز نسبت به استفاده از ابزارهای هوش مصنوعی نگران هستند
در بخش دیگری از این پژوهش، Sapio Research با ۵۰۰۰ کارمند که در محیط کار از هوش مصنوعی یا اتوماسیون استفاده میکنند، گفتوگو کرده است.
نتایج نشان میدهد بسیاری از کارکنان نگران هستند که استفاده آنها از هوش مصنوعی باعث ایجاد مشکلاتی در زمینه انطباق با قوانین و مقررات شود. برخی از آنها نیز در حال دور زدن ابزارهای AI هستند.
وقتی فرآیند استفاده از هوش مصنوعی بهدرستی طراحی نشده باشد، کارکنان ممکن است خروجی سیستم را نادیده بگیرند یا زمانی که نمیتوانند توضیح دهند یک مدل چگونه به نتیجهای خاص رسیده است، فرآیند را دوباره بهصورت دستی انجام دهند.
از سوی دیگر، بیشتر کارکنان اعلام کردهاند که سازمانشان بهطور کامل درباره نحوه تأثیر هوش مصنوعی بر وظایف و نقش شغلی آنها با آنها مشورت نکرده است.
استفاده نمایشی از هوش مصنوعی میتواند آمار پذیرش را گمراهکننده کند
برخی کارکنان نیز اعتراف کردهاند که تنها برای رعایت دستورالعمل شرکت از ابزارهای هوش مصنوعی استفاده میکنند. این موضوع میتواند باعث شود آمار مربوط به پذیرش هوش مصنوعی در سازمان بیشتر از میزان استفاده واقعی به نظر برسد.
به عبارت دیگر، ممکن است داشبوردهای مدیریتی میزان استفاده از AI را بالا نشان دهند، در حالی که بخش قابلتوجهی از این استفاده صرفاً برای برآورده کردن الزامات سازمانی انجام میشود.
در همین حال، مدیران نسبت به کارکنان خود اعتماد بیشتری دارند که هوش مصنوعی میتواند بهرهوری نیروی انسانی را افزایش دهد؛ موضوعی که میتواند میان انتظارات مدیریتی و تجربه واقعی کارکنان شکاف ایجاد کند.
چرا بازطراحی فرآیندهای سازمانی متوقف شده است؟
با وجود این مشکلات، بیشتر مدیران معتقدند سازمانها برای حفظ رقابتپذیری باید گردشهای کاری خود را با محوریت هوش مصنوعی بازطراحی کنند.
با این حال، حدود دو سوم مدیران میگویند نگرانیهای مربوط به انطباق با قوانین و مقررات، روند این بازطراحی را کند کرده است. به این ترتیب، عاملی که ضرورت بازطراحی فرآیندها را افزایش داده، خود به یکی از موانع اجرای آن تبدیل شده است.
رهبران سازمانی تخمین زدهاند که بازطراحی مهمترین فرآیندهای کاری آنها بهطور متوسط حدود ۴ سال زمان خواهد برد.
هزینه شکست پروژههای AI به ۱.۵۵ میلیون دلار میرسد
بر اساس نتایج این نظرسنجی، بخش عمده بودجه پروژههای هوش مصنوعی همچنان به زیرساختها، مجوزها و مدلهای AI اختصاص پیدا میکند و سهم بازطراحی فرآیندهای کاری نسبتاً محدود است.
مدیران شرکتکننده در این پژوهش، میانگین هزینه پروژههای هوش مصنوعی شکستخورده به دلیل مشکلات فرآیندی را حدود ۱.۵۵ میلیون دلار برای هر سازمان برآورد کردهاند.
یکی از دلایل ادامه این وضعیت میتواند ترجیح سازمانها برای اضافه کردن هوش مصنوعی به گردشهای کاری فعلی باشد. بیشتر مدیران اذعان کردهاند که این روش در مقایسه با بازطراحی کامل فرآیندها معمولاً با مقاومت داخلی کمتری مواجه میشود.
در نتیجه، سازمانها ممکن است بهجای بازسازی فرآیندها از پایه، مسیر سادهتر یعنی افزودن AI به سیستمهای موجود را انتخاب کنند؛ رویکردی که میتواند در کوتاهمدت اجرای پروژه را آسانتر کند، اما همزمان ریسکهای انطباق، نظارت و حسابرسی را افزایش دهد.
جمعبندی
نتایج این پژوهش نشان میدهد چالش سازمانها در استفاده از هوش مصنوعی صرفاً به انتخاب مدل مناسب یا تأمین زیرساخت محدود نمیشود. فرآیندهای کاری قدیمی و طراحیشده برای تعامل انسان با انسان نیز میتوانند به مانعی جدی برای استفاده ایمن و منطبق با قوانین از AI تبدیل شوند.
تا زمانی که سازمانها کنترلها، سازوکارهای ثبت سوابق، مسئولیتها و فرآیندهای حسابرسی خود را متناسب با حضور هوش مصنوعی بازطراحی نکنند، افزودن AI به گردشهای کاری موجود میتواند ریسکهایی ایجاد کند که در طراحی اولیه فرآیندها پیشبینی نشده بودند.
