حاکمیت هوش مصنوعی: مأموریت جدید هیئت‌مدیره و حسابرسان داخلی

حاکمیت هوش مصنوعی: مأموریت جدید هیئت‌مدیره و حسابرسان داخلی

مقدمه

هوش مصنوعی دیگر یک فناوری آینده‌نگرانه نیست؛ بلکه به بخشی از عملیات روزمره بسیاری از سازمان‌ها تبدیل شده است. بانک‌ها از آن برای ارزیابی اعتباری مشتریان استفاده می‌کنند، شرکت‌های بیمه برای کشف تقلب به آن متکی هستند، بیمارستان‌ها در تشخیص بیماری از آن بهره می‌برند و سازمان‌های بزرگ از مدل‌های زبانی برای تولید محتوا، تحلیل اسناد و پشتیبانی از تصمیم‌گیری استفاده می‌کنند.

در چنین شرایطی، سؤال اساسی دیگر این نیست که «آیا باید از هوش مصنوعی استفاده کنیم؟» بلکه این است که «چگونه باید استفاده از هوش مصنوعی را مدیریت و کنترل کنیم؟» پاسخ این سؤال در مفهومی به نام حاکمیت هوش مصنوعی (AI Governance) نهفته است.

حاکمیت هوش مصنوعی چیست؟

حاکمیت هوش مصنوعی مجموعه‌ای از سیاست‌ها، ساختارها، مسئولیت‌ها، فرآیندها و کنترل‌هایی است که اطمینان می‌دهد سیستم‌های هوش مصنوعی:

• در راستای اهداف سازمان به کار گرفته می‌شوند؛
• قابل اعتماد و ایمن هستند؛
• قوانین و الزامات اخلاقی را رعایت می‌کنند؛
• تصمیم‌های قابل توضیح و قابل دفاع اتخاذ می‌کنند؛
• و ریسک‌های ناشی از استفاده از هوش مصنوعی به‌طور مستمر مدیریت می‌شوند.

به بیان ساده، اگر حاکمیت فناوری اطلاعات به دنبال کنترل فناوری است، حاکمیت هوش مصنوعی به دنبال کنترل تصمیم‌هایی است که فناوری تولید می‌کند.

چرا حاکمیت هوش مصنوعی اهمیت پیدا کرده است؟

هوش مصنوعی برخلاف نرم‌افزارهای سنتی، صرفاً دستورات از پیش تعیین‌شده را اجرا نمی‌کند، بلکه بر اساس داده‌ها «یاد می‌گیرد» و تصمیم می‌گیرد. همین ویژگی، مزایای فراوانی ایجاد می‌کند، اما هم‌زمان ریسک‌های جدیدی را نیز به همراه دارد. برای مثال، یک مدل هوش مصنوعی ممکن است:

• به دلیل کیفیت نامناسب داده‌های آموزشی، تصمیم‌های نادرست بگیرد؛
• نسبت به گروهی از مشتریان سوگیری داشته باشد؛
• اطلاعات محرمانه را افشا کند؛
• توصیه‌هایی ارائه دهد که با قوانین یا سیاست‌های سازمان مغایرت داشته باشد؛
• یا به مرور زمان، بدون آنکه کسی متوجه شود، دقت خود را از دست بدهد.

این ریسک‌ها با نصب یک نرم‌افزار امنیتی یا یک دیوار آتش برطرف نمی‌شوند؛ بلکه نیازمند یک نظام حاکمیتی هستند.

تفاوت حاکمیت فناوری اطلاعات و حاکمیت هوش مصنوعی

سال‌هاست که سازمان‌ها بر حاکمیت فناوری اطلاعات تمرکز کرده‌اند. موضوعاتی مانند امنیت اطلاعات، مدیریت تغییرات، کنترل دسترسی، پشتیبان‌گیری و تداوم کسب‌وکار، ستون‌های اصلی این حوزه هستند. اما در حاکمیت هوش مصنوعی، پرسش‌های جدیدی مطرح می‌شود:

• آیا تصمیم‌های مدل قابل توضیح هستند؟
• چه کسی مسئول پیامدهای تصمیم مدل است؟
• آیا داده‌های آموزشی قابل اعتماد بوده‌اند؟
• آیا مدل به‌طور مستمر پایش و بازآموزی می‌شود؟
• آیا استفاده از هوش مصنوعی با ارزش‌ها و سیاست‌های سازمان همسو است؟

در واقع، تمرکز از «کنترل سامانه» به «کنترل تصمیم» منتقل شده است.

اصول کلیدی حاکمیت هوش مصنوعی

بررسی چارچوب‌های بین‌المللی نشان می‌دهد که تقریباً همه آن‌ها بر چند اصل مشترک تأکید دارند:

مسئولیت‌پذیری (Accountability): باید مشخص باشد چه کسی مالک مدل است، چه کسی آن را تأیید کرده و چه کسی مسئول پایش عملکرد آن است.

شفافیت (Transparency): سازمان باید بداند مدل از چه داده‌هایی استفاده می‌کند و تصمیم‌های آن چگونه تولید می‌شوند.

توضیح‌پذیری (Explainability): در تصمیم‌های حساس، امکان ارائه توضیح قابل فهم برای انسان ضروری است.

عدالت (Fairness): مدل نباید به‌طور ناعادلانه علیه گروهی از افراد تبعیض ایجاد کند.

حفظ حریم خصوصی (Privacy): داده‌های شخصی باید مطابق قوانین و سیاست‌های سازمان محافظت شوند.

امنیت (Security): مدل‌های هوش مصنوعی نیز همانند سایر دارایی‌های اطلاعاتی در معرض حملات سایبری قرار دارند و باید از آن‌ها محافظت شود.

چارچوب‌های بین‌المللی

در سال‌های اخیر، استانداردها و چارچوب‌های متعددی برای حاکمیت هوش مصنوعی منتشر شده‌اند که مهم‌ترین آن‌ها عبارت‌اند از:

• NIST AI Risk Management Framework (AI RMF): چارچوب مدیریت ریسک هوش مصنوعی که بر شناسایی، اندازه‌گیری، مدیریت و حاکمیت ریسک‌های AI تمرکز دارد.
• ISO/IEC 42001: نخستین استاندارد بین‌المللی برای استقرار سیستم مدیریت هوش مصنوعی (AIMS).
• EU AI Act: نخستین قانون جامع هوش مصنوعی که سامانه‌های AI را بر اساس سطح ریسک طبقه‌بندی می‌کند و برای سامانه‌های پرریسک الزامات سخت‌گیرانه‌تری در نظر می‌گیرد.
• OECD AI Principles: مجموعه‌ای از اصول بین‌المللی درباره استفاده مسئولانه و انسان‌محور از هوش مصنوعی.

وجه مشترک همه این اسناد آن است که استفاده از هوش مصنوعی را صرفاً یک موضوع فنی نمی‌دانند، بلکه آن را بخشی از نظام حاکمیت سازمان تلقی می‌کنند.

نقش هیئت‌مدیره و کمیته حسابرسی

با گسترش استفاده از هوش مصنوعی، مسئولیت هیئت‌مدیره نیز تغییر کرده است. امروزه انتظار می‌رود هیئت‌مدیره تنها درباره سرمایه‌گذاری در فناوری تصمیم نگیرد، بلکه درباره ریسک‌های ناشی از هوش مصنوعی نیز نظارت مؤثر داشته باشد. پرسش‌هایی که هیئت‌مدیره باید مطرح کند عبارت‌اند از:

• مهم‌ترین کاربردهای هوش مصنوعی در سازمان کدام‌اند؟
• ریسک‌های اصلی هر کاربرد چیست؟
• چه کنترل‌هایی برای مدیریت این ریسک‌ها وجود دارد؟
• آیا عملکرد مدل‌ها به‌صورت مستمر پایش می‌شود؟
• آیا سازوکار پاسخگویی در صورت بروز خطا مشخص است؟

مأموریت جدید حسابرسی داخلی

حسابرسی داخلی نیز باید دامنه فعالیت خود را گسترش دهد. در گذشته تمرکز حسابرسان بر کنترل‌های عمومی فناوری اطلاعات بود، اما اکنون باید به ارزیابی حاکمیت هوش مصنوعی نیز بپردازند. نمونه‌ای از پرسش‌های حسابرس داخلی عبارت‌اند از:

• آیا سیاست استفاده از هوش مصنوعی در سازمان تدوین شده است؟
• آیا پیش از استقرار مدل، ارزیابی ریسک انجام شده است؟
• آیا کیفیت داده‌های آموزشی بررسی شده است؟
• آیا مدل به‌طور دوره‌ای از نظر دقت، سوگیری و عملکرد بازبینی می‌شود؟
• آیا تصمیم‌های پرریسک همچنان تحت نظارت و تأیید انسان قرار دارند؟

این پرسش‌ها نشان می‌دهد که نقش حسابرس از بررسی صرف کنترل‌های فناوری، به ارزیابی کیفیت حکمرانی بر هوش مصنوعی در حال تحول است.

جمع‌بندی

هوش مصنوعی فرصت‌های بزرگی برای سازمان‌ها ایجاد کرده است، اما در کنار این فرصت‌ها، ریسک‌هایی نیز پدید آورده که با ابزارهای سنتی مدیریت فناوری اطلاعات قابل کنترل نیستند. از این‌رو، حاکمیت هوش مصنوعی به یکی از ارکان جدید حکمرانی شرکتی تبدیل شده است. همان‌گونه که در دو دهه گذشته، حاکمیت فناوری اطلاعات از یک موضوع فنی به یک مسئولیت هیئت‌مدیره تبدیل شد، انتظار می‌رود در سال‌های آینده نیز حاکمیت هوش مصنوعی به یکی از مهم‌ترین محورهای نظارت هیئت‌مدیره، کمیته حسابرسی و حسابرسی داخلی تبدیل شود. سازمان‌هایی که از امروز چارچوب مناسبی برای حاکمیت هوش مصنوعی طراحی کنند، نه تنها ریسک‌های این فناوری را بهتر مدیریت خواهند کرد، بلکه اعتماد مشتریان، نهادهای ناظر و سایر ذی‌نفعان را نیز تقویت خواهند نمود. در عصر هوش مصنوعی، مزیت رقابتی تنها در داشتن مدل‌های پیشرفته نیست؛ بلکه در توانایی حاکمیت بر آن‌هاست.

به اشتراک بگذارید: