چگونه هوش مصنوعی مدیریت ریسک سازمانی را متحول می کند

از کم راوال

با تسریع پذیرش هوش مصنوعی، سازمان ها باید فراتر از مدیریت ریسک مبتنی بر انطباق به مدیریت مستمر مبتنی بر هوش که انعطاف پذیری و مسئولیت پذیری را تقویت می کند، حرکت کنند.

هوش مصنوعی خطرات شرکتی جدیدی ایجاد نمی کند. این شکاف های حاکمیتی، پاسخگویی و داده ها را که در طول این مدت وجود داشته است، آشکار می کند. همانطور که سازمان‌ها پذیرش هوش مصنوعی را تسریع می‌کنند، رهبران این فرصت را دارند که مدیریت ریسک سازمانی را تقویت کنند، نظارت را بهبود بخشند و برنامه‌های مدیریت مبتنی بر هوش انعطاف‌پذیرتر بسازند.

پذیرش هوش مصنوعی برای بسیاری از صنایع به واقعیت تبدیل شده است. با این حال، در حالی که سازمان‌ها برای اجرای آن رقابت می‌کنند، بسیاری در حال کشف شکاف‌های غیرمنتظره در مدیریت ریسک، مسئولیت‌پذیری و نظارت هستند.

همانطور که سازمان‌ها هوش مصنوعی را در عملیات پیاده‌سازی می‌کنند، مسائلی را در زمینه مالکیت ریسک، مدیریت داده‌ها و نظارت بر برنامه‌های مدیریت ریسک سازمانی (ERM) کشف می‌کنند که اغلب در مدل‌های حاکمیت سنتی پنهان مانده‌اند. هوش مصنوعی مسئول ایجاد این چالش ها نیست. در عوض، نادیده گرفتن آنها را غیرممکن می کند.

هوش مصنوعی چه ضعف هایی را در مدیریت ریسک سازمانی نشان می دهد؟

چارچوب‌های ERM سنتی برای جهانی طراحی شده‌اند که می‌توان ریسک‌ها را به‌طور دوره‌ای ارزیابی کرد، در سیلوهای عملکردی مدیریت کرد و از طریق ساختارهای حاکمیتی قابل پیش‌بینی تشدید کرد. هوش مصنوعی به این شکل کار نمی کند.

سیستم‌های هوش مصنوعی بخش‌ها، منابع داده، فرآیندهای تجاری و اکوسیستم‌های شخص ثالث را در بر می‌گیرند. در نتیجه، آن‌ها می‌توانند نقاط کور سازمانی را که ممکن است تحت رویکردهای مدیریت ریسک سنتی پنهان مانده‌اند، آشکار کنند.

بسیاری از سازمان‌ها دیگر برای هوش مصنوعی ارزشی قائل نیستند.

بر اساس داده‌های نظرسنجی Resolver، 82 درصد از پاسخ‌دهندگان به ریسک گزارش دادند که از هوش مصنوعی برای تهیه گزارش‌ها و خلاصه‌ها استفاده می‌کردند، در حالی که 68 درصد از آن برای تحقیق در مورد خطرات نوظهور و انجام اقدامات اجرایی استفاده کردند. با گنجاندن هوش مصنوعی در فعالیت‌های ریسک روزمره، سازمان‌ها به طور فزاینده‌ای مجبور می‌شوند با چالش‌های حاکمیتی، مسئولیت‌پذیری و نظارتی که ممکن است در زیر مدل‌های عملیاتی سنتی پنهان مانده‌اند، مقابله کنند.

بسیاری از سازمان ها نیز هنوز در مراحل اولیه سفر هوش مصنوعی خود هستند. مطالعه McKinsey درباره وضعیت هوش مصنوعی در سال 2025 نشان داد که تقریباً دو سوم سازمان ها هنوز هوش مصنوعی را در سراسر سازمان گسترش نداده اندنشان می دهد که بسیاری از چالش های مدیریتی تازه در حال ظهور هستند.

معیاری برای سازمان ها تبدیل به توانایی آنها در مدیریت سیستم های پیچیده ای است که عملکردهای تجاری، محیط های داده، فروشندگان شخص ثالث و تعهدات نظارتی را در بر می گیرد.

هوش مصنوعی چه شکاف های حاکمیتی را شناسایی می کند؟

یکی از مهم‌ترین تأثیرات هوش مصنوعی توانایی آن در آشکار کردن شکاف‌های بین ساختارهای سازمانی و مسئولیت‌پذیری واقعی است.

به عنوان مثالیک ابزار خدمات مشتری مبتنی بر هوش مصنوعی می‌تواند به طور همزمان ریسک‌های انطباق، امنیت سایبری، حریم خصوصی، عملیاتی، اعتبار و خطرات شخص ثالث را از طریق روشی که داده‌ها را جمع‌آوری، پردازش و به اشتراک می‌گذارد، معرفی کند.

اما مسئولیت این خطرات اغلب در چندین عملکرد بدون مالک مشخص پخش می شود.

ضعف های رایج ERM که توسط هوش مصنوعی آشکار شد

عدم نظارت هیئت مدیره چالش دیگری است. با توجه به انجمن ملی مدیران شرکت هاتنها 14 درصد از هیئت ها در هر جلسه درباره هوش مصنوعی صحبت می کنند، در حالی که 45 درصد اصلاً هوش مصنوعی را در دستور کار هیئت مدیره خود قرار نداده اند. وقتی مدیریت کنترل‌های مسئولیت‌پذیری را ایجاد نمی‌کند، ممکن است خطوط در مورد اینکه چه کسی مقصر است و چگونه به درستی ریسک‌ها را در هنگام بروز آنها رسیدگی کند، مبهم می‌شود.

این عدم تعهد خلأ مدیریتی ایجاد می کند. در همین حال، سازمان‌ها تصمیمات و نگرانی‌های مؤثرتری در مورد چگونگی توسعه، استقرار و نظارت هوش مصنوعی می‌گیرند، در حالی که با چالش‌های عملی اتخاذ مسئولانه آن دست و پنجه نرم می‌کنند.

یک نظرسنجی اخیر Resolver از متخصصان ریسک نشان داد که معمولاً موانع ذکر شده در بین پاسخ دهندگان به ریسک عبارتند از:

• در دسترس بودن اطلاعات منبع دقیق و قابل اعتماد (38%)
• نگرانی در مورد امنیت اطلاعات و حریم خصوصی داده ها (38%)
• کیفیت نتایج هوش مصنوعی (38%)

این چالش‌ها شکاف‌های فزاینده‌ای را برجسته می‌کنند که به یک حقیقت واحد اشاره می‌کنند: اگر این فرآیندها تکه تکه شوند، دیگر پایداری استانداردهای حاکمیتی نیست.

چرا هوش مصنوعی نیازمند تغییر از مدیریت ریسک مبتنی بر انطباق به مدیریت ریسک مبتنی بر هوش است؟

بسیاری از سازمان ها به مدیریت ریسک از طریق ارزیابی های دوره ای، بررسی های سالانه و کنترل های مبتنی بر انطباق ادامه می دهند. در حالی که این رویکردها همچنان مهم هستند، اغلب برای محیط های دارای هوش مصنوعی بسیار کند هستند. در نظر بگیرید که چگونه هوش مصنوعی بر اساس روزها و هفته ها تغییر می کند و تأثیر ناشی از موارد زیر را در نظر بگیرید:

• تغییرات در کیفیت داده ها
• دریفت در مدل های هوش مصنوعی
• تغییرات در انتظارات نظارتی
• گسترش وابستگی های شخص ثالث

در نتیجه، سازمان‌ها به دید بیشتری نسبت به ریسک‌های نوظهور و مکانیسم‌های قوی‌تری برای نظارت بر آن‌ها در زمان واقعی نیاز دارند.

با توجه به داده‌های Riskonnect، این چالش‌ها با این واقعیت برجسته می‌شوند که تنها ۲۳ درصد از سازمان‌ها از کیفیت و کاربرد داده‌های مدیریت ریسک خود اطمینان دارند. علاوه بر این، تنها 5 درصد به توانایی خود در خلاصه کردن و گزارش اطلاعات ریسک برای هدایت تصمیم گیری استراتژیک اعتماد بالایی دارند.

مدیریت ریسک مبتنی بر انطباق در مقابل مدیریت ریسک مبتنی بر هوش

سازمان‌هایی که رویکردهای مبتنی بر هوش را اتخاذ می‌کنند، در موقعیت بهتری برای شناسایی ریسک‌های نوظهور قبل از تبدیل شدن به رویدادهای مادی هستند.

چگونه سازمان ها می توانند ERM را برای آینده مبتنی بر هوش مصنوعی مدرن کنند؟

خبر خوب این است که بسیاری از ضعف‌هایی که هوش مصنوعی نشان می‌دهد را می‌توان از طریق حاکمیت قوی‌تر و شیوه‌های مدیریت ریسک یکپارچه‌تر برطرف کرد.

تقویت حاکمیت داده

بسیاری از سازمان‌ها دریافته‌اند که مدیریت ضعیف داده و کیفیت پایین داده یکی از مهم‌ترین موانع برای مقیاس‌بندی مؤثر هوش مصنوعی است. با توجه به الف گزارش تحلیلگر چشم انداز 2025از بیش از 550 متخصص داده و تجزیه و تحلیل دریافتند که 76٪ از پاسخ دهندگان می گویند که تصمیم گیری مبتنی بر داده هدف اصلی آنها برای برنامه های داده است، در حالی که 67٪ به طور کامل به داده های خود برای تصمیم گیری اعتماد ندارند.

این امر به ویژه در زمینه هوش مصنوعی مهم است. اگر سازمان‌ها نمی‌توانند به طور کامل به داده‌هایی که به تصمیمات انسانی اطلاع می‌دهند اعتماد کنند، باید از تکیه بر همان داده‌ها برای تقویت جریان‌های کاری، توصیه‌ها و هشدارهای خطر که با هوش مصنوعی فعال هستند، محتاط باشند.

چالش فراتر از حکومت است. الف گزارش 2024 دریافتند که 100٪ از رهبران داده مورد بررسی مشکلات کیفیت داده را در محیط داده خود گزارش می کنند، در حالی که 95٪ می گویند این مسائل مستقیماً بر نتایج کسب و کار تأثیر می گذارد.

مسائل مربوط به کیفیت داده در محیط های سازمانی فراگیر باقی می ماند و مستقیماً بر عملکرد تجاری، تصمیم گیری و قابلیت اطمینان سیستم های هوش مصنوعی تأثیر می گذارد.

اولویت های اصلی برای ERM مدرن

سازمان ها باید بر پنج اولویت تمرکز کنند:

1. مالکیت واضح خطرات هوش مصنوعی را ایجاد کنید
2. ایجاد ساختارهای مدیریتی متقابل
3. موجودی سیستم های هوش مصنوعی و موارد استفاده را نگهداری کنید
4. تقویت کنترل و مدیریت کیفیت داده ها
5. اجرای فرآیندهای نظارت و گزارش دهی مستمر

این اقدامات مسئولیت پذیری و دیده شدن را بهبود می بخشد. دو قابلیت که با گسترش پذیرش هوش مصنوعی اهمیت فزاینده ای پیدا می کنند.

چه چارچوب هایی می توانند به تقویت حکمرانی هوش مصنوعی کمک کنند؟

خوشبختانه، سازمان ها مجبور نیستند از صفر شروع کنند.

• این OECD روی خطرات هوش مصنوعی کار می کند اهمیت رویکردهای مدیریت مبتنی بر ریسک را برجسته می کند که به موضوعاتی مانند تعصب، تبعیض، حریم خصوصی، امنیت و تأثیرات اجتماعی می پردازد.
• این چارچوب مدیریت ریسک هوش مصنوعی NIST یکی از کاربردی ترین مدل ها را برای سازمان هایی ارائه می دهد که به دنبال اجرای حکمرانی هوش مصنوعی هستند.

استفاده از چارچوب مدیریت ریسک هوش مصنوعی NIST

چهار عملکرد اصلی آن (مدیریت، نقشه برداری، اندازه گیری و مدیریت) یک رویکرد ساختاریافته برای شناسایی، ارزیابی، نظارت و پاسخ به خطرات هوش مصنوعی در طول چرخه حیات سیستم ارائه می کند. آنها با هم، به سازمان ها کمک می کنند تا از نظارت پراکنده به یک مدل مدیریت ریسک یکپارچه تر و مستمر تر حرکت کنند.

لازم به ذکر است که مدیریت به عنوان مبنایی برای سایر فعالیت ها عمل می کند. NIST بر نیاز به نقش‌ها و مسئولیت‌های مشخص، مسئولیت‌پذیری اجرایی، فهرست سیستم‌های هوش مصنوعی، نظارت مستمر، ارتباطات ریسک و آموزش نیروی کار تاکید می‌کند.

این به طور مستقیم بسیاری از نقاط ضعفی را که هوش مصنوعی در برنامه های سنتی ERM نشان می دهد، برطرف می کند.

چشم انداز نظارتی اروپا

برای سازمان های اروپایی، قانون هوش مصنوعی اتحادیه اروپا این روند را بیشتر تقویت می کند. این مقررات ساختار رسمی حاکمیتی را ایجاد می‌کند که شامل دفتر اتحادیه اروپا برای هوش مصنوعی، شورای هوش مصنوعی اروپا، یک پانل علمی و یک انجمن مشورتی است که منعکس‌کننده این انتظار است که نظارت بر هوش مصنوعی به‌عنوان یک موضوع حاکمیت شرکتی به‌جای یک نگرانی تک‌تکنولوژیکی مستقل در نظر گرفته شود.

چه چیزی سازمان های تاب آور را از سازمان های آسیب پذیر جدا می کند؟

هوش مصنوعی به عنوان یک تست استرس برای مدیریت ریسک شرکت عمل می کند. نظارت پراکنده، ساختارهای ضعیف پاسخگویی، مدیریت ضعیف داده ها و دید محدود ریسک های مرتبط را نشان می دهد. سازمان‌هایی که اکنون این نقاط ضعف را برطرف می‌کنند، می‌توانند از هوش مصنوعی به عنوان کاتالیزوری برای نوسازی ERM گسترده‌تر استفاده کنند.

رهبران به جای اینکه هوش مصنوعی را صرفاً به عنوان یک دسته جدید از ریسک نگاه کنند، باید آن را به عنوان فرصتی برای ایجاد مدل‌های حکومتی انعطاف‌پذیرتر و مبتنی بر هوش در نظر بگیرند. کسانی که این کار را انجام می دهند، نه تنها برای مدیریت ریسک های هوش مصنوعی، بلکه برای ایجاد انعطاف پذیری، دیده شدن و مسئولیت پذیری مورد نیاز برای یک محیط تجاری پیچیده تر نیز مجهز خواهند بود.

درباره نویسنده

کم راوال رئیس Resolver و یک مدیر اجرایی با تجربه با بیش از 25 سال تجربه در نرم افزار سازمانی، تحول دیجیتال و رشد مشتری محور است. او سمت‌های مدیریتی ارشد را در AppDirect، Bell and Rogers Communications بر عهده داشته و در زمینه هوش ریسک، استراتژی شرکت و تحول کسب‌وکار تخصص دارد.