ایالات متحده آمریکا در نظر دارد رویکردی نوین برای نظارت بر نحوه به‌کارگیری هوش مصنوعی در بخش بانکی تدوین کند. این اقدام پس از رشد سریع فناوری‌های یادگیری ماشین در سیستم‌های مالی و ارائه خدمات بانک‌های بزرگ صورت می‌گیرد و هدفش کاهش ریسک‌های عملیاتی و افزایش شفافیت است.
کارشناسان معتقدند که نبود یک چارچوب رسمی برای ارزیابی الگوریتم‌های پیشرفته در حوزه‌هایی مثل تشخیص تقلب، ارزیابی اعتبار مشتری و مدیریت ریسک، می‌تواند چالش‌های حقوقی و اخلاقی پدید آورد. به همین دلیل، پیشنهاد جدید مقرراتی قرار است استانداردهای روشنی برای مؤسسات مالی مشخص کند.
چرا نظارت بر هوش مصنوعی در بانک‌داری ضروری شده است؟
بانک‌های امروزی از مدل‌های هوش مصنوعی برای تصمیم‌گیری‌های سرنوشت‌ساز مانند تأیید وام، شناسه‌گذاری مشکویان مالی و شخصی‌سازی خدمات استفاده می‌کنند. وابستگی فزاینده به این فناوری بدون مکانیزم‌های نظارتی کافی، خطر تبعیض الگوریتمی، سوگیری داده‌ها و شفاف نبودن فرآیند تصمیم‌گیری را افزایش می‌دهد.
احتمالاً چه الزاماتی وضع می‌شود؟
بر اساس گزارش‌های اولیه، مؤسسات مالی احتمالاً ملزم خواهند شد مستندات مربوط به نحوه طراحی، آموزش و استقرار مدل‌های هوش مصنوعی را نگهداری کنند. همچنین فناوری‌های شفاف‌کننده و ممیزی‌های دوره‌ای از جمله الزامات پیش‌بینی‌شده‌اند. مهم‌ترین محورهای این رویکرد عبارتند از:
- شناسایی دقیق حوزه‌های کاربرد هوش مصنوعی در سیستم‌های بانکی
- feminists ارزیابی مستقل الگوریتم‌ها برای بررسی سوگیری و مطابقت با الزامات حقوقی
- تأمین شفافیت و قابلیت ردیابی تصمیمات خودکار در قبال مشتریان
- توسعه گزارش‌دهی منظم به ناظران مالی درباره عملکرد مدل‌ها
- تضمین حریم خصوصی داده‌ها در فرآیندهای یادگیری ماشین
تأثیر احتمالی بر بازار مالی و صنعت فناوری
این اقدام می‌تواند پیامد‌های گسترده‌ای برای شرکت‌های فناوری مالی و سایر بخش‌های تنظم‌شده داشته باشد. در عین حال، بسیاری از صاحب‌نظران بر این باورند که تدوین قواعد شفاف، اعتماد به فناوری جدید را تقویت خواهد کرد و راه را برای نوآوری پایدار در اقتصاد دیجیتال هموارتر می‌کند. مقایسه این رویکرد با تلاش‌های اتحادیه اروپا در زمینه تنظیم هوش مصنوعی نشان می‌دهد که جهان در حال حرکت به سمت یک دوران جدید از حاکمیت قانونی در حوزه فناوری‌های پیشرفته است.
پرسش‌های پرتکرار
هدف اصلی رویکرد جدید آمریکا نسبت به هوش مصنوعی در بانک‌ها چیست؟
هدف اصلی تدوین چارچوبی برای ارزیابی نظام‌مند، کاهش ریسک‌های عملیاتی و اطمینان از شفافیت و انصاف در تصمیم‌گیری‌های خودکار بانک‌هاست.
این مقررات به کدام شرکت‌ها مربوط می‌شود؟
توزیع دقیق مؤسسات مشمول هنوز اعلام نشده، اما پیش‌بینی می‌شود بانک‌های بزرگ، مؤسسات مالی و شرکت‌های فناوری مالی که از مدل‌های هوش مصنوعی استفاده می‌کنند تحت پوشش قرار گیرند.
