دفتر کنترل ارز آمریکا (OCC) به‌تازگی دستورالعمل جدیدی را در چارچوب نظارت احتیاطی (Prudential Regulation) منتشر کرده است که به‌طور مشخص به استفاده از هوش مصنوعی در نظام بانکی می‌پردازد. این اقدام در حالی انجام می‌شود که بانک‌ها به‌طور فزاینده‌ای از الگوریتم‌های یادگیری ماشین برای اعتبارسنجی، مدیریت ریسک، تشخیص تقلب و بهینه‌سازی عملیات خود استفاده می‌کنند.
این دستورالعمل که پایگاه خبری VitalLaw.com جزئیات آن را منتشر کرده، نشان‌دهنده توجه جدی نهادهای نظارتی به چالش‌ها و فرصت‌های هوش مصنوعی در بخش مالی است. OCC تأکید کرده است که نوآوری در استفاده از هوش مصنوعی نباید از چارچوب‌های ایمنی و سلامت مالی خارج شود.
چرا OCC دستورالعمل جدید صادر کرد؟
نظارت احتیاطی بر بانک‌ها با هدف حفظ ثبات مالی، حمایت از سپرده‌گذاران و جلوگیری از بحران‌های سیستمی صورت می‌گیرد. با گسترش استفاده از هوش مصنوعی در تصمیم‌گیری‌های اعتباری و مدیریت ریسک، نگرانی‌هایی درباره شفافیت، تبعیض الگوریتمی و قابلیت توضیح‌پذیری این سیستم‌ها مطرح شده است. دستورالعمل جدید OCC تلاش می‌کند تا چارچوبی اصولی برای پاسخ به این نگرانی‌ها ارائه دهد.
تأثیر هوش مصنوعی بر نظام بانکی
هوش مصنوعی پتانسیل بالایی برای بهبود کارایی، کاهش هزینه‌ها و افزایش دقت در خدمات بانکی دارد. با این حال، پیاده‌سازی آن بدون ریسک نیست. مدل‌های پیچیده یادگیری عمیق ممکن است به‌صورت «جعبه سیاه» عمل کنند و توضیح دلیل تصمیمات، به‌ویژه در موارد رد درخواست وام یا تعیین نرخ بهره، دشوار باشد. همچنین احتمال بروز خطاهای سیستمی، سوگیری در داده‌های آموزشی و وابستگی بیش از حد به فناوری از جمله چالش‌هایی است که ناظران مالی به آن توجه دارند.
نکات کلیدی دستورالعمل OCC
- استقرار سیستم‌های حاکمیت و کنترل داخلی برای مدیریت ریسک مدل‌های هوش مصنوعی
- الزام به مستندسازی دقیق فرآیند تصمیم‌گیری الگوریتمی و ارائه توضیحات قابل فهم به مشتریان
- تأکید بر آزمون‌های تنش و اعتبارسنجی مستمر مدل‌ها در شرایط اقتصادی مختلف
- توجه ویژه به جلوگیری از تبعیض ناعادلانه و رعایت قوانین حمایت از مصرف‌کننده
- همکاری بانک‌ها با ناظران در اشتراک‌گذاری اطلاعات مربوط به عملکرد سامانه‌های هوش مصنوعی
آینده نظارت بر هوش مصنوعی در بانک‌ها
صدور این دستورالعمل نشان می‌دهد که تنظیم‌گران مالی آمریکا به دنبال ایجاد تعادل میان نوآوری و ثبات هستند. انتظار می‌رود سایر نهادهای نظارتی مانند فدرال رزرو و دفتر حمایت مالی مصرف‌کننده (CFPB) نیز رویه‌های مشابهی را اتخاذ کنند. بانک‌ها باید خود را برای عصر جدیدی از نظارت دقیق‌تر آماده کنند؛ نظارتی که در آن هوش مصنوعی هم به‌عنوان ابزار و هم به‌عنوان موضوع قاعده‌گذاری مطرح است.
در مجموع، دستورالعمل OCC را می‌توان گامی مهم در جهت شفاف‌سازی مسئولیت‌های قانونی فعالان حوزه مالی در استفاده از فناوری‌های پیشرفته دانست. این حرکت احتمالاً الگویی برای دیگر کشورها نیز خواهد بود تا در عصر دیجیتال، ثبات سیستم مالی را با نوآوری فناورانه همسو کنند.
پرسش‌های پرتکرار
دستورالعمل جدید OCC درباره هوش مصنوعی چه هدفی دارد؟
هدف این دستورالعمل ایجاد چارچوبی برای مدیریت ریسک و تضمین شفافیت در استفاده بانک‌ها از سیستم‌های هوش مصنوعی است تا ضمن حفظ نوآوری، ثبات نظام مالی نیز تضمین شود.
بانک‌ها برای رعایت این مقررات چه اقداماتی باید انجام دهند؟
بانک‌ها باید سیستم‌های حاکمیت و کنترل داخلی را تقویت کنند، مدل‌های هوش مصنوعی را به‌طور مستمر اعتبارسنجی کنند، و فرآیند تصمیم‌گیری الگوریتمی را به شکلی شفاف مستندسازی کنند تا قابلیت توضیح‌پذیری برای ناظران داشته باشند.
