زیر لببندیٔ پیشرفت، مقایسۀ دقیق هوش مصنوعی در برابر تقلب
در سال‌های اخیر، شرکت‌های مالی فراوان بر روی سیستم‌های هوش مصنوعی متکی بوده‌اند تا رفتار ناهنجار را شناسایی و از مسدود کردن حساب‌ها جلوگیری کنند. اما مدیر فنی Finatra، مایک ستوچانسکی، دیدگاه متفاوتی ارائه داد: سیستم‌های یادگیری ماشین هنوز قادر به شناخت همهٔ نقشه‌های تقلب‌های مبتنی بر هوش مصنوعی نیستند.
طبق گفتهٔ ایشان، بعضی از الگوهای هوش مصنوعی، با بهره‌گیری از رمزنگاری و تغییر متغیرهای شبکه‌های عصبی، می‌توانند جایگاه خود را در دروازه‌های تشخیص مخفی کنند. این امر به‌ویژه در پردازش زبان طبیعی و یا تحلیل حجم تراکنش‌های با داده‌های کمتر، مشکل‌ساز می‌شود.
شکاف‌های طراحی سیستم‌های دفاعی در برابر تقلب هوش مصنوعی
او می‌گوید، “قابلیت تسخیر غیرقانونی (adversarial attacks) در الگوریتم‌های یادگیری، بالاتر از انتظار بوده و محدودیت‌هایی در گنجاندن کامل داده‌های واقعی به تحریفات داخلی می‌آورد.”
راهکارهای پیشنهادی برای کاهش خطرات تقلب هوش مصنوعی
ما در این بخش به پیشنهادهایی می‌پردازیم:
- افزایش دقت داده‌های آموزشی با ارزشیابی دقیق‌تر موارد تراکنش.
- یک لایهٔ دیفرانسیل پردازش داخلی (Differential privacy) برای جلوگیری از تحلیل داخلی.
- همکاری میان بانک‌ها و پژوهش‌های دانشگاهی برای به‌اشتراک‌گذاری اطلاعات تراکنشی اجتماعی.
- استفاده از هوش مصنوعی در تشخیص شفاف‌سازی (Explainable AI) و ارزیابی رتبهٔ ریسک تراکنش.
به‌طور کلی، تحقیقات به‌دنبال ایجاد ترکیبی از مهارت‌های یادگیری ماشین و روش‌های سنتی اقتصادی باندن پل ایکس است. این اقدامات می‌توانند شکاف شناسایی ناشناخته‌ها را رفع کنند.
پرسش‌های پرتکرار
چرا برخی از تقلب‌های هوش مصنوعی قابل تشخیص نیستند؟
به دلیل استفاده از الگوریتم‌های پیچیدهٔ یادگیری ماشین که قابلیت ارتقاء سرعت و تغییر الگوها را دارند، این تقلب‌ها می‌توانند قبل از شناسایی تغییر کنند و هکرها از راهنماهای نظارتی عبور کنند.
آیا راه‌حلی برای بهبود تشخیص وجود دارد؟
استفاده از ترکیب هوش مصنوعی با تجزیه و تحلیل پیشرفتهٔ داده، ایجاد لایهٔ امنیتی تکمیلی، و ستاربازی الگوریتم‌های تشخیص شفاف‌سازی (Explainable AI) و اشتراک دانش در میان نهادهای مالی، می‌تواند نرخ تشخیص را به‌طور قابل‌ملاحظه‌ای افزایش دهد.
