پیچیدگی‌ها در کلاهبرداری الکترونیکی نوین
دنیای فناوری با ورود گسترده هوش مصنوعی به عرصه‌های مختلف روبرو شده است که اگر از یک سو فرصت‌های زیادی را برای رشد کسب‌وکارها ایجاد کرده، از سوی دیگر طراحان کلاهبرداری‌های پیچیده را تسهیل کرده است. اخیراً پرونده‌ای در وزارت دادگستری آمریکا مطرح شده که چهره‌ای از خطرهای امنیتی ناشی از استفاده سوء از مدل‌های زبانی و صوتی عمیق (Deepfake) را نشانه می‌رود. در این پرونده، سه تبعه خارجی متهم شده‌اند که با شبیه‌سازی دقیق صدا و ویژگی‌های ظاهری مدیران کلیدی، اعتماد کارکنان را جلب و دستورات جعلی انتقال وجه صادر کرده‌اند.
ساختار این کلاهبرداری ساده اما حیاتی رویکردی هدفمند داشت. مهاجمان با تمرکز بر شخصیت‌های ارشد سازمان‌ها، مانند مدیران عامل (CEO) یا وکلای حقوقی، از الگوریتم‌های پیشرفته هوش مصنوعی برای بازسازی سبک گفتار و لحن مورد نظر استفاده کردند. هدف اصلی ایجاد یک حس فوریت و محرمانگی در ذهن مخاطب بوده است تا کارمندان بدون طرح پرسش‌های کلیدی، مبلغ قابل توجهی را به حساب‌های شناسایی‌شده واریز کنند. این رویکرد که در صنعت «هوش مصنوعی ابزاری برای فساد» یا AI Facilitated Fraud نامیده می‌شود، شیوه‌ی جدیدی در دنیای مجازی است.
اهداف پرخرج و آسیب‌پذیری سازمان‌ها
بر اساس گزارش‌های منتشر شده، اقدامات مشکوک این سه نفر متمرکز بر واحدهایی بوده که به لحاظ مالی و اعتباری پیچیدگی خاصی دارند. بیمارستان‌ها، بانک‌ها و شرکت‌های درجه یک از جمله قربانیان این سه نفر بودند. این طراحان با هدف کسب اعتبار و گذار از سیگنال‌های امنیتی سفت و سخت، فرآیند ارسال وجه را از طریق جلسات آنلاین جعلی مدیریت می‌کردند.
- شبیه‌سازی صوتی: ایجاد سازگاری کامل بین صدا و صورت مدیران ارشد.
- تفویض سطح بالا: انتقال فرآیندهای حساس مالی به حساب‌های شیبیلشده در کوتاه‌ترین زمان ممکن.
- پنهانکاری فنی: استفاده از روش‌های پیشرفته برای دور زدن کشف‌کننده‌های کلاهبرداری الکترونیکی.
نکته قابل توجه در این پرونده، مقیاس مالی صدمه است. مجموع کل انتقال‌ها به ۱۲۹ میلیون دلار می‌رسد که نشان‌دهنده‌ی شکاف امنیتی بزرگ در گاردهای سازمانی در برابر هوش مصنوعی‌های دلبخواهی است. سازمان‌های بزرگ که در سال‌های اخیر روی آموزش نیروی انسانی برای شناسایی کلاهبرداری‌های رایج تمرکز کرده‌اند، ممکن است در برابر هوش مصنوعی شخصیت‌پردازی‌شده، درمانده بمانند.
اثرگذاری اجتماعی و پیامدهای آینده
تصویب قاضیانی از فساد ناشی از هوش مصنوعی، بایدهای جدیدی برای مسئولیت‌پذیری افراد در فضای مجازی ایجاد خواهد کرد. بررسی دقیق پرونده‌ها نشان می‌دهد که مهاجمان با هوش مصنوعی از شبکه‌های اجتماعی برای جمع‌آوری داده‌های صوتی و تصویری استفاده کرده‌اند. این روند، نیاز به تدوین استانداردهای جدید در تولید و ضمیمه‌سازی اعتبار در جلسات مناسبت را برجسته می‌کند.
برای سازمان‌های حرفه‌ای، تعیین حریم‌های امنیتی دیجیتالی، استفاده از کد امنیتی برای ارتقاء مالیاتی و آموزش مداوم کارکنان برای شناخت نشانه‌های سطح بالا کلاهبرداری، الزامیتر از هر زمان دیگری شده است. هوش مصنوعی هم شمشیر دو لنگه است و باید هم به عنوان ابزار انبساط رشد، هم به عنوان تهدید امنیتی در خور مدیریت در برنامه‌های کنترل ریسک سازمان‌ها لحاظ شود.
پرسش‌های پرتکرار
ادارت چگونه از هوش مصنوعی در طراحی این فساد مبرداده بود؟
متهمان از الگوریتم‌های پیشرفته برای ساخت صدا و تصاویر مشابه مدیران ارشد استفاده کردند که برای فریب دستگاه‌های کشف هویت و کارکنان طراحی شده بودند.
چه اقداماتی برای جلوگیری از دیپ‌فیک سازمانی توصیه می‌شود؟
استفاده از کدهای احراز هویت متمرکز یکبار مصرف، آموزش پرسنل برای بازگشت اطلاعات مخفی مالی تماس‌ها و محدودسازی فیس‌تو‌فیس برای فرآیند مالی حائز اهمیت‌ترین اقدامات هستند.
