پیش‌زمینه تهدیدات هوش مصنوعی در فضای سایبری
قریمه های هکری در حال پیشرفت با استفاده از الگوریتم‌های هوش مصنوعی برای خودکارسازی حملات هستند. اوایل سال 2024 OpenAI اقدامات قدرتمندی در برابر این تهدیدات انجام داد.
اکتشاف حساب‌های مخرب روسی توسط OpenAI
با تحلیل داده‌های حساب‌های کاربری بر اساس فعالیت‌های غیرعادی، OpenAI حساب‌های مرتبط با گروه‌های روسی را شناسایی و مسدود کرد. این حساب ها از هوش مصنوعی برای ساخت لودر، لایه فرار، اسکریپت سرقت اعتبارنامه و زیرساخت C2 استفاده می‌کردند.
ویژگی‌های کارآیی مخرب‌های مبتنی بر هوش مصنوعی
دستگاه‌های مخرب این دسته قابلیت تنظیم دقیق لایبرری خطا و فیلترها را دارند، که احتمال کشف توسط پایگاه‌های امنیتی را کاهش می‌دهد.
- لودرهای هوش مصنوعی (نمونه‌های یادگیری عمیق)
- لایه‌های فرار خودکار (آیتم‌های تزریق شل)
- اسکریپت‌های سرقت اعتبارنامه (استخراج امن کلمات)
- پلتفرم‌های کنترل-کامند (C2) هوشمند
پرسش‌های پرتکرار
OpenAI چگونه حساب‌های مخرب را شناسایی کرد؟
OpenAI با تحلیل فعالیت‌های غیرعادی در حساب‌های کاربری، الگوهای رفتار مخرب و استفاده از الگوریتم‌های هوش مصنوعی برای طراحی لودر را شناسایی کرد.
چه اقداماتی برای جلوگیری از گسترش مخرب‌های هوش مصنوعی انجام شد؟
OpenAI حساب‌های مرتبط با گروه‌های روسی را مسدود کرد، دسترسی به APIهای مخرب محدود شد و گزارش داده‌ها برای نمایش در لیست‌های بلاک شد.
