ماتریس تصمیم هوش مصنوعی؛ کجا می‌توان به AI اعتماد کرد و کجا تصمیم‌گیری با انسان است؟
پژوهشگران مؤسسه پژوهشی سیستم‌های اطلاعاتی دانشگاه MIT چارچوبی برای تعیین حدود اختیار هوش مصنوعی در تصمیم‌گیری ارائه کرده‌اند. این چارچوب با بررسی دو عامل ابهام و ریسک، تصمیم‌ها را به چهار دسته تقسیم می‌کند و نشان می‌دهد در چه شرایطی می‌توان از هوش مصنوعی برای خودکارسازی استفاده کرد و چه زمانی نظارت و قضاوت انسانی اهمیت بیشتری دارد.
گسترش استفاده از هوش مصنوعی در سازمان‌ها، این پرسش را جدی‌تر کرده است که کدام تصمیم‌ها را می‌توان به سامانه‌های هوشمند سپرد و در چه موقعیت‌هایی باید اختیار تصمیم‌گیری در دست انسان باقی بماند. ماتریس تصمیم هوش مصنوعی چارچوبی برای پاسخ به این پرسش است که بر اساس دو معیار اصلی، یعنی میزان ابهام و سطح ریسک، حدود نقش هوش مصنوعی و انسان را مشخص می‌کند.
این چارچوب که پژوهشگران مرکز پژوهش سیستم‌های اطلاعاتی مؤسسه فناوری ماساچوست (MIT CISR) مطرح کرده‌اند، از دو پرسش اساسی شروع می‌شود: نخست اینکه مسئله تا چه اندازه روشن و قابل پیش‌بینی است و دوم اینکه تصمیم اشتباه چه میزان خسارت یا پیامد منفی به همراه خواهد داشت.
ترکیب این دو معیار، چهار گروه از تصمیم‌ها را شکل می‌دهد: تصمیم‌های روتین، پیامددار، اکتشافی و استراتژیک. هر گروه به سطح متفاوتی از خودکارسازی و نظارت انسانی نیاز دارد.
تصمیم‌های روتین؛ مناسب‌ترین گزینه برای خودکارسازی
تصمیم‌های روتین در شرایطی قرار می‌گیرند که ابهام و ریسک هر دو پایین هستند. در این موقعیت‌ها، مسئله به‌خوبی تعریف شده و اشتباه احتمالی نیز پیامد محدودی دارد. به همین دلیل، این دسته از تصمیم‌ها گزینه مناسبی برای واگذاری به سامانه‌های هوش مصنوعی محسوب می‌شوند.
با این حال، خودکارسازی باید بر پایه ارزیابی عملکرد سامانه انجام شود. سازمان‌ها لازم است ابتدا از دقت و ثبات عملکرد هوش مصنوعی اطمینان پیدا کنند و سپس دامنه اختیار آن را افزایش دهند. حتی در این شرایط نیز تعیین فردی مسئول برای نظارت بر عملکرد سامانه و رسیدگی به خطاهای احتمالی ضروری است.
تصمیم‌های پیامددار؛ جایی که نظارت انسانی اهمیت دارد
در تصمیم‌های پیامددار، مسئله تا حدود زیادی روشن است، اما اشتباه می‌تواند خسارت قابل‌توجهی ایجاد کند. قیمت‌گذاری نمونه‌ای از این گروه از تصمیمات به شمار می‌رود زیرا ممکن است فرایند محاسبه و تحلیل قیمت قابل خودکارسازی باشد، با این حال یک تصمیم نادرست درباره قیمت نهایی پیامدهای مالی مهمی برای کسب‌وکار داشته باشد.
در چنین شرایطی، هوش مصنوعی می‌تواند تحلیل داده‌ها، محاسبات و پیشنهاد گزینه‌های مختلف را بر عهده بگیرد. در مقابل، انسان باید بر استثناها نظارت کند و در تصمیم‌هایی که پیامد مالی یا عملیاتی مهمی دارند، اختیار مداخله داشته باشد.
هدف از این رویکرد، استفاده از سرعت و توان پردازشی هوش مصنوعی در کنار قضاوت انسانی برای مدیریت موقعیت‌های حساس است.
تصمیم‌های اکتشافی؛ هوش مصنوعی برای گسترش گزینه‌ها
تصمیم‌های اکتشافی با ابهام بالا و ریسک پایین شناخته می‌شوند. در این وضعیت‌ها، مسئله پاسخ مشخصی ندارد یا مسیر رسیدن به نتیجه از ابتدا روشن نیست؛ با این حال، هزینه اشتباه در مراحل اولیه محدود است.
تولید محتوا و ایده‌پردازی از نمونه‌های این دسته هستند. هوش مصنوعی می‌تواند ایده‌های تازه پیشنهاد دهد، مسیرهای متفاوتی برای حل مسئله مطرح کند و به گسترش دامنه گزینه‌های پیش روی تیم کمک کند.
با وجود این، تشخیص اینکه کدام پیشنهاد با هدف سازمان یا نیاز مخاطب هماهنگ است، به قضاوت انسانی نیاز دارد. انسان باید جهت کلی کار را تعیین کند، پیشنهادها را ارزیابی کند و پیش از آنکه خطاها به پیامدهای جدی منجر شوند، آن‌ها را اصلاح کند.
تصمیم‌های استراتژیک؛ مسئولیت نهایی با انسان
تصمیم‌های استراتژیک در نقطه تلاقی ابهام و ریسک بالا قرار دارند. در این شرایط، اطلاعات موجود ممکن است ناقص باشد، پیامدهای تصمیم به‌سختی پیش‌بینی شود و انتخاب اشتباه هزینه سنگینی به همراه داشته باشد.
تصمیم‌های کلان سازمانی، تعیین مسیر توسعه کسب‌وکار و انتخاب راهبردهای بلندمدت می‌توانند در این گروه قرار بگیرند. در چنین موقعیت‌هایی، هوش مصنوعی قادر است حجم زیادی از داده‌ها را تحلیل کند، سناریوهای مختلف را مقایسه کند و پیامدهای احتمالی هر گزینه را نشان دهد.
با این حال، انتخاب مسیر نهایی به ارزیابی انسانی، شناخت زمینه تصمیم و پذیرش مسئولیت نتایج نیاز دارد. در این دسته، هوش مصنوعی نقش پشتیبان تصمیم‌گیری را ایفا می‌کند و مسئولیت هدایت فرایند در اختیار مدیران و تصمیم‌گیران انسانی باقی می‌ماند.
چرا نظارت انسانی بر تصمیم‌های هوش مصنوعی ضروری است؟
ماتریس تصمیم هوش مصنوعی بر این نکته تأکید دارد که میزان اختیار سامانه‌های هوشمند باید با توجه به شرایط هر تصمیم تعیین شود. میزان ابهام و هزینه احتمالی خطا مشخص می‌کند که هوش مصنوعی تا چه اندازه می‌تواند مستقل عمل کند و انسان در کدام مراحل باید حضور داشته باشد.
برای سازمان‌ها، این رویکرد می‌تواند مبنایی برای طراحی فرایندهای تصمیم‌گیری، تعیین حدود اختیارات سامانه‌های هوشمند و مشخص‌کردن مسئولیت افراد باشد. به‌جای واگذاری یکسان همه وظایف به هوش مصنوعی یا کنارگذاشتن آن از تصمیم‌های مهم، می‌توان سطح استفاده از این فناوری را متناسب با نوع مسئله تنظیم کرد.
استفاده مؤثر از هوش مصنوعی به شناخت توانایی‌ها و محدودیت‌های آن وابسته است. خودکارسازی در تصمیم‌های کم‌ریسک و روشن می‌تواند کارآمد باشد، درحالی‌که تصمیم‌های مبهم و پرریسک به نظارت و قضاوت انسانی بیشتری نیاز دارند. تعیین مسئول مشخص برای بررسی عملکرد سامانه‌ها و رسیدگی به پیامدهای تصمیم‌ها نیز بخش مهمی از این فرایند است.
