به تازگی مسئولان ارشد فناوری اطلاعات و ارتباطات در ایسنا، خواستار تدوین چارچوب‌های سخت‌گیرانه‌تری برای مدیریت ریسک‌های ناشی از استقرار هوش مصنوعی در صنایع حیاتی شده‌اند. این طرح در پی نگرانی‌ها از آسیب‌های احتمالی بر حریم خصوصی و امنیت سایبری ارائه شده است.
چرا کاهش ریسک در صنایع کلیدی حیاتی است؟
سیستمرورهای هوشمند اگر بدون نظارت کافی در زیرساخت‌های مالی، بهداشتی و حکومتی پیاده‌سازی شوند، می‌توانند بحران‌های نمادین ایجاد کنند. ایسنا با اشاره به این نکته، بر لزوم ارزیابی کلودری خطرناک در مراحل توسعه و عملیاتی شدن تأکید دارد.
رویکردهای پیشنهادی برای تنظیم‌گری
الزام بر مستندسازی کامل داده‌ها و ارائه گزارش‌های دوره‌ای به نهادهای ناظر، از جمله راهکارهای مطرح شده است. ایجاد سامانه‌های نظارت مستقل برای ممیزی مدل‌های هوش مصنوعی نیز در دستور کار قرار دارد.
- ارائه راهنمای اخلاقی استاندارد برای توسعه‌دهندگان
- برگزاری تمرین‌های احکام حمله سایبری روی مدل‌ها تشدید مجازات‌های قانونی برای نشت داده‌های کاربر
تأثیر بر اکوسیستم کسب‌وکارها
این اقدامات ممکن است در کوتاه‌مدت موجب افزایش هزینه‌های توسعه پروژه‌های هوش مصنوعی شود، اما در بلندمدت اعتماد عمومی و اشاعه پایدارتر این فناوری را تضمین می‌کند.
پرسش‌های پرتکرار
اصلی‌ترین دغدغه جهت کاهش ریسک در استفاده از هوش مصنوعی چیست؟
نشت داده‌های حساس کاربران و حمله‌های سایبری به سیستم‌های خودکار که منجر به اختلال در نهادهای حیاتی اقتصاد و اجتماع می‌شود.
شرکت‌ها چگونه می‌توانند با این مقررات سخت‌گیرانه‌تر سازگار شوند؟
جداگانه‌سازی زیرمجموعه‌های فنی (مانند مهندسی امنیت بلاک‌چین) و تلاش برای گرفتن گواهینامه‌های بین‌المللی ISO در حوزه مدیریت ریسک فناوری.
