حاکمیت هوش مصنوعی در نهادهای مالی
راهنمای نظارتی IOSCO و مقررات پرریسک اروپا مسیر صنعت را روشن کردهاند. پنج تصمیم کلیدی که باید پیش از انتخاب فناوری گرفته شود، نه پس از استقرار مدل در سازمان.
در ماه مه ۲۰۲۶، سازمان بینالمللی کمیسیونهای اوراق بهادار (IOSCO) یک بسته راهنمای نظارتی برای بهکارگیری هوش مصنوعی در بازارهای سرمایه منتشر کرد. چند ماه بعد، مقررات حوزه پرریسک قانون هوش مصنوعی اتحادیه اروپا لازمالاجرا شد و اعتبارسنجی، تشخیص تقلب و تصمیمگیری خودکار مالی را در بر گرفت.
پیام مشترک این دو روشن است: دورهای که میشد یک مدل را بدون چارچوب حاکمیتی مستقر کرد، تمام شده است.
این مقاله درباره تصمیمهایی است که باید پیش از شروع پروژه گرفته شوند، نه بعد از آن.
چرا حاکمیت را نمیشود به بعد موکول کرد
تفاوت اصلی پروژه هوش مصنوعی در حوزه مالی با سایر حوزهها این است که خروجی مدل روی افراد اثر مستقیم دارد: یک تراکنش مسدود میشود، یک درخواست رد میشود، یک حساب علامت میخورد.
وقتی چنین تصمیمی گرفته میشود، سه سؤال بلافاصله مطرح است: چرا؟ چه کسی مسئول است؟ چطور میشود اعتراض کرد؟
سازمانی که پاسخ این سه را از قبل طراحی نکرده باشد، مجبور میشود بعداً و تحت فشار طراحی کند — که همیشه گرانتر و ضعیفتر است.
پنج تصمیمی که باید از ابتدا گرفته شود
یک: مدل تصمیم میگیرد یا پیشنهاد میدهد؟
بنیادیترین انتخاب. آیا خروجی مدل مستقیماً اقدام ایجاد میکند، یا به کارشناس انسانی پیشنهاد میدهد و او تصمیم میگیرد؟
در حوزههایی که اثر مستقیم بر مشتری دارند، رویکرد محافظهکارانه — انسان در حلقه تصمیم — تقریباً همیشه انتخاب درستی است، دستکم در سالهای اول.
دو: خروجی چقدر قابل توضیح باشد؟
بین دقت و قابلیت توضیح، معاوضهای واقعی وجود دارد. مدلهای پیچیدهتر معمولاً دقیقترند ولی توضیح دلیل تصمیمشان سختتر است.
در کاربردهایی که باید به مشتری یا نهاد ناظر پاسخ داد، قابلیت توضیح بر چند درصد دقت بیشتر اولویت دارد. این تصمیم را باید آگاهانه گرفت، نه اینکه نتیجه اتفاقی انتخاب فنی باشد.
سه: چه کسی مالک مدل است؟
مدل مثل هر دارایی دیگری نیاز به مالک مشخص دارد — کسی که مسئول پایش عملکرد، تصمیم درباره بازآموزی، و پاسخگویی در صورت بروز مشکل است.
بدون این، مدل بهتدریج و بیسروصدا از کار میافتد: داده تغییر میکند، دقت افت میکند، و کسی متوجه نمیشود.
چهار: چگونه و چند وقت یکبار بازبینی شود؟
الگوهای مالی تغییر میکنند. مدلی که امسال دقیق است، سال بعد لزوماً نیست — پدیدهای که به آن رانش مدل گفته میشود.
از ابتدا مشخص کنید عملکرد با چه شاخصی و در چه بازهای سنجیده میشود، و در چه آستانهای باید بازآموزی انجام شود.
پنج: چه چیزی ثبت و نگهداری شود؟
برای هر تصمیم مدل، باید بتوانید بعداً بازسازی کنید: چه دادهای ورودی بود، کدام نسخه از مدل تصمیم گرفت، و خروجی چه بود.
این نه فقط الزام نظارتی است، بلکه تنها راه بررسی درست یک مورد اختلافی است.
دو رویکرد، دو نتیجه متفاوت
سازمانها معمولاً یکی از دو مسیر را میروند:
رویکرد متمرکز — یک کمیته حاکمیت هوش مصنوعی، چارچوب واحد، و تأیید متمرکز همه مدلها. سازگاری بالا و ریسک کمتر، ولی کند. مناسب سازمانهای بزرگ با نظارت سنگین.
رویکرد توزیعشده — هر واحد مدلهای خودش را با رعایت یک استاندارد حداقلی مدیریت میکند. سریعتر و منعطفتر، ولی نیازمند بلوغ داخلی بالا. اگر آن بلوغ نباشد، به هرجومرج ختم میشود.
انتخاب میان این دو، بیش از آنکه فنی باشد، به اندازه و ساختار سازمان بستگی دارد — و مثل بسیاری از تصمیمهای معماری، تغییر دادنش بعداً بسیار پرهزینه است.
پرسشهای پرتکرار
حاکمیت هوش مصنوعی دقیقاً یعنی چه؟
مجموعه تصمیمها و فرایندهایی که مشخص میکند چه کسی مسئول خروجی مدل است، چگونه عملکردش سنجیده میشود، چه چیزی ثبت میگردد، و در صورت بروز خطا چه اتفاقی میافتد. تفاوتش با کار فنی این است که پیش از ساخت مدل تعیین میشود.
آیا سازمان کوچک هم به این نیاز دارد؟
بله، ولی متناسب با مقیاس. یک سند دو صفحهای که مالک مدل، شاخص پایش و بازه بازبینی را مشخص کند، برای شروع کافی است. نبود آن است که مشکل میسازد، نه سادگیاش.
مهمترین تصمیم کدام است؟
اینکه مدل تصمیم بگیرد یا پیشنهاد بدهد. این انتخاب سطح ریسک، الزامات توضیحپذیری و ساختار پاسخگویی را یکجا تعیین میکند.
چه زمانی باید این کار را شروع کرد؟
پیش از انتخاب فناوری. چارچوب حاکمیتی باید بر انتخاب مدل اثر بگذارد، نه برعکس.
جمعبندی
استقرار هوش مصنوعی در نهادهای مالی دیگر یک تصمیم صرفاً فنی نیست. بسته راهنمای IOSCO و مقررات پرریسک اروپا نشان میدهند مسیر صنعت به کدام سمت است.
خبر خوب اینکه این چارچوب سنگین نیست. برای اکثر سازمانها، پاسخ روشن به همان پنج پرسش بالا — پیش از شروع پروژه — بخش عمده کار را انجام میدهد.
کاربردهای عملی این فناوری را در هوش مصنوعی در نهادهای مالی و نقشه راه اجرایی را در تشخیص تقلب با هوش مصنوعی بررسی کردهایم.
خدمات مرتبط قطره
قطره در پارک علم و فناوری البرز در کرج مستقر است و در این حوزهها همراه سازمانهاست:
- مشاوره هوش مصنوعی در کسبوکار — طراحی چارچوب حاکمیتی متناسب با مقیاس سازمان
- علم داده و مدلهای پیشبینانه با تمرکز بر قابلیت توضیح
- دوره آموزشی هوش مصنوعی و مشاور هوش مصنوعی برای آموزش — آموزش مدیران و کارشناسان تصمیمگیر
- اتوماسیون هوش مصنوعی و چتبات اختصاصی سازمانی
- بینایی ماشین و روباتیک — پردازش تصویر و پایش خودکار
اگر میخواهید بدانید چارچوب متناسب سازمان شما چه شکلی است، با ما گفتوگو کنید.