وقتی مدیران درباره خطرهای هوش مصنوعی صحبت می‌کنند، ذهنشان معمولاً به سمت تصویرهای علمی‌تخیلی می‌رود: رباتی که کنترل را در دست می‌گیرد یا ماشینی که خودش تصمیم می‌گیرد به انسان آسیب بزند. اما گزارش تازهٔ The Independent نشان می‌دهد همین تصور، خودش به یکی از جدی‌ترین آسیب‌پذیری‌های سازمان‌ها تبدیل شده است؛ زیرا توجه مدیران را از تهدیدهایی دور می‌کند که همین امروز در جریان‌اند و در بسیاری از شرکت‌ها دیده نمی‌شوند. به تعبیر کارشناسان، این یک «باور خطرناک» است که فاصلهٔ میان ادراک مدیران و واقعیت ریسک را عمیق‌تر می‌کند.
باور خطرناکی که تمرکز را از ریسک واقعی می‌دزدد
هستهٔ استدلال منتقدان ساده است: هراس از سناریوهای دور و تخیلی، بودجه و زمان محدود تیم‌های امنیت را به خود جلب می‌کند و در مقابل، آسیب‌های روزمره‌ای را که از ابزارهای هوش مصنوعی برمی‌خیزد نادیده می‌گذارد. مدل‌های زبانی بزرگ و دستیارهای هوشمند اکنون در ایمیل، پشتیبانی مشتری، کدنویسی و تحلیل داده به کار می‌روند و همان‌جا که کار را سریع‌تر می‌کنند، مسیرهای تازه‌ای هم برای نشت اطلاعات و سوءاستفاده باز می‌کنند. تا زمانی که مدیران تهدید را در قالب فیلم‌های آخرالزمانی می‌بینند، ارزیابی ریسک واقعی به تعویق می‌افتد.
تهدیدهای ملموس: از نشت داده تا جعل عمیق
نخستین و شایع‌ترین خطر، نشت داده است. کارمندی که متن قرارداد محرمانه یا اطلاعات مشتری را در یک چت‌بات عمومی粘贴 می‌کند، در واقع داده را از مرزهای سازمان بیرون برده است؛ بی‌آنکه نیازی به نفوذ هکر باشد. تهدید دوم، جعل عمیق و کلاهبرداری صوتی و تصویری است که با هزینه‌ای اندک می‌تواند هویت مدیرعامل را جعل کند و کارمند را به انتقال وجه یا افشای اطلاعات وادار سازد. سومین خطر، تزریق دستور و دستکاری ورودی است که در آن یک متن ظاهراً بی‌خطر، دستیار هوش مصنوعی را به انجام کاری خلاف سیاست سازمان هدایت می‌کند. افزون بر این، اتکای بیش از حد به خروجی مدل‌ها بدون بازبینی انسانی، کیفیت تصمیم‌ها را در معرض خطاهای پرهزینه قرار می‌دهد.
- نشت داده: ورود اطلاعات محرمانه به ابزارهای عمومی و ذخیره‌شدن آن‌ها در سرورهای بیرونی
- جعل عمیق: ساخت ویدئو یا صداهای تقلبی برای فریب کارکنان و مشتریان
- تزریق دستور: دستکاری ورودی برای وادار کردن مدل به رفتار ناخواسته
- هوش مصنوعی سایه: استفادهٔ بی‌مجوز کارکنان از ابزارهایی که تیم فناوری از آن‌ها خبر ندارد
- خطای تصمیم: اعتماد بی‌قیدوشرط به خروجی مدل بدون راستی‌آزمایی انسانی
چرا این تهدیدها در سازمان‌ها دیده نمی‌شوند
بخش بزرگی از مشکل، ساختاری است. ابزارهای هوش مصنوعی معمولاً از مسیر رسمی فناوری اطلاعات وارد سازمان نمی‌شوند؛ کارمند برای سریع‌تر انجام دادن کارش خودش ثبت‌نام می‌کند و حساب شرکتی و شخصی در هم می‌آمیزند. نتیجه، پدیده‌ای است که به آن «هوش مصنوعی سایه» می‌گویند: مجموعه‌ای از ابزارهای فعال که نه در فهرست دارایی‌های سازمان ثبت شده‌اند و نه تحت نظارت سیاست‌های امنیتی قرار دارند. وقتی نقشهٔ کاملی از این ابزارها وجود ندارد، ارزیابی ریسک هم معنایی ندارد و واکنش به حادثه هم دیرهنگام می‌شود.
گام‌های عملی برای کاهش ریسک
راه‌حل، کنار گذاشتن هوش مصنوعی نیست؛ تبدیل آن از یک ورود پنهان به یک زیرساخت مدیریت‌شده است. سازمان‌ها می‌توانند با سیاست استفادهٔ روشن، فهرست‌برداری از ابزارهای فعال، آموزش کارکنان درباره داده‌های حساس و افزودن بازبینی انسانی به تصمیم‌های مهم، بخش زیادی از این شکاف را پر کنند. تجربهٔ سال‌های اخیر نشان می‌دهد که بیشترین آسیب از فناوری پیشرفتهٔ دشمنان نمی‌آید، بلکه از عادت‌های سادهٔ درونی و ادراک نادرست از ریسک سرچشمه می‌گیرد. پذیرفتن این واقعیت، نخستین قدم برای امن‌سازی واقعی است.
پرسش‌های پرتکرار
بزرگ‌ترین باور نادرست مدیران درباره خطرهای هوش مصنوعی چیست؟
تمرکز بر سناریوهای تخیلی مانند هوش مصنوعی یاغی، در حالی که تهدیدهای واقعی و روزمره‌ای مثل نشت داده، جعل عمیق و استفادهٔ بی‌مجوز کارکنان از ابزارهای هوشمند نادیده گرفته می‌شود.
هوش مصنوعی سایه چه خطری برای سازمان ایجاد می‌کند؟
هوش مصنوعی سایه به ابزارهایی گفته می‌شود که کارکنان بدون تأیید تیم فناوری اطلاعات به کار می‌گیرند؛ این ابزارها در فهرست دارایی‌های سازمان ثبت نمی‌شوند و همین موضوع نظارت، ارزیابی ریسک و واکنش سریع به حادثه را دشوار می‌کند.
