نشریه معتبر «مؤسسه نیروی دریایی ایالات متحده» در آخرین شماره خود، به بررسی عمیق چالش‌های فنی و اخلاقی پیوستن هوش مصنوعی به ساختار فرماندهی نیروهای دریایی پرداخته است. این مقاله با عنوان «ریسک‌های توسعه یک ذهن دریایی مصنوعی»، نگرانی‌های جدی از جایگزینی حساب‌کرد و قضاوت انسانی با الگوریتم‌هایی که در محیط‌های پرتشتشگر و غیرپیش‌بینی‌پذیر دریا عمل می‌کنند، را برجسته می‌سازد.
آسیب‌پذیری در برابر داده‌های ناکامل
یکی از اصلی‌ترین آسیب‌پذیری‌هایی که نویسندگان به آن اشاره دارند، وابستگی سیستم‌های هوش مصنوعی به داده‌های ورودی دقیق است. در حالی که میدان‌های نبرد خشکی اغلب دارای جغرافیای شناخته‌شده‌تر هستند، عملیات دریایی با عوامل متغیراتی مانند جبهه‌گیری، جوی پیش‌بینی‌نشده و اختلالات الکترونیکی همراه است. هوش مصنوعی که بر اساس داده‌های آموزشی بسته شده‌است، در مواجهه با سناریوهای بیضوح ممکن است تصمیمات نادرست اتخاذ کند که عواقب جبران‌ناپذیری برای ناوها و خدمه در پی داشته باشد.
یادگیری ماشینی و ابهام فرماندهی
- عدم شفافیت در فرآیند تصمیم‌گیری «جعبه سیاه» مدل‌های یادگیری عمیق که مانع از درک مستند فاجعه توسط فرماندهان می‌شود.
- سرعت واکنش محاسباتی که اگرچه مزیت فنی است، اما ممکن است عاملی برای تصمیمات شتاب‌زده و عاری از جنبه‌های کلان استراتژیک شود.
- آسیب‌پذیری کانال‌های ارتباطی سیستم‌های اتوماتیک در برابر حملات سایبری دشمن که منجر به روبرو شدن ناوگان با دستورات جعلی می‌گردد.
نتیجه‌گیری این پژوهش بر این نکته تأکید دارد که آینده امنیت دریایی نه در حذف انسان، بلکه در همزیستی هوشمندانه میان قضاوت انسانی و توانایی‌های تحلیلی ماشین نهفته است. طراحی پروتکل‌های صلب برای دخالت انسانی در لحظات حساس، ضرورتی اجتناب‌ناپذیر برای جلوگیری از فاجعه‌های ناشی از نقیصات الگوریتمی شناخته شد.
تأثیر بر افق آینده دفاعی
با توجه به پویایی‌های زیست‌محیطی و رقابت‌های ژئوپلیتیک نوظهور، تأخیر در تدوین چارچوب‌های اخلاقی و فنی هوش مصنوعی نظامی می‌تواند شکاف‌های امنیتی جبران‌ناپذیری ایجاد کند. تحلیلگران معتقدند که سرمایه‌گذاری در آموزش خدمه برای تعامل مؤثر با این سیستم‌های پیچیده، به اندازه خودِ فناوری اهمیت دارد.
پرسش‌های پرتکرار
مهم‌ترین ریسک استفاده از هوش مصنوعی در ناوگان‌های دریایی چیست؟
مهم‌ترین ریسک، اتکای بیش از حد به الگوریتم‌ها در شرایط کم‌وضوح و حضور اختلالات محیطی و سایبری است که می‌تواند منجر به تصمیمات نادرست بدون پاسخگویی مستقیم انسانی شود.
آیا هوش مصنوعی باید جایگزین کامل فرماندهان انسانی شود؟
خیر، تحلیل‌های حاضر بر ضرورت حفظ نفوذ انسانی (Human-in-the-loop) در تصمیم‌گیری‌های نهایی و حساس تاکتیکی و استراتژیک تأکید دارند تا از خطاهای سیستم مورد جلوگیری.
