پیشینه عملیات ‘Trolling Stone’
در سال سال گذشته، جبهه‌های نفوذ روسیه به‌وسیله یک حرکت به‌نام Trolling Stone برای ارسال نظراتی که به‌طور خودکار توسط مدل‌های هوش مصنوعی تولید می‌شد، به دنبال ایجاد سردرگمی و فرار از قانون در رسانه‌های آنلاین در آرژانتین، فعالیت می‌کردند. این فعالیت، هدف اصلی آنها بررسی و تقویت برداشت‌های نفی درباره‌ی سرنوشت یک رهبر آرمسی با ریشه‌های روسی بود.
نقش OpenAI در شناسایی و مسدودسازی حساب‌ها
OpenAI به‌سرعت به شناسایی حساب‌های متصل به این عملیات پی برده و آنها را بلاک کرد. این تصمیم، بر اساس تحلیل رفتار حساب‌ها و شناسایی متونی که با الگوهای خاصی از همترازی‌های خودکار در شبِک‌های علنی ظاهر می‌شد، اتخاذ شد. به‌روزرسانی‌های اخیر پلتفرم OpenAI بر اصل «شفافیت در شناسایی تهدیدات» تأکید دارد و حاکی از تعهد مداوم شرکت در حفاظت از کاربران و جلوگیری از بهره‌برداری نادرست است.
پاسخ‌ها و تدابیر پیشنهادی برای بازدارندگی نفوذ
- به‌روزرسانی مستمر الگوریتم‌های تشخیص اسپم و محتواهای تولیدشده توسط هوش مصنوعی.
- ایجاد لیست سیاه بروز برای حساب‌ها و IPهای مربوطه، و مطابقت آنها با فهرست‌های دولتی و امنیتی.
- تقویت لایه‌های احراز هویت دو عاملی برای حساب‌های کاربری پرخطر و حساس.
- ایجاد آگاهی کاربران در مورد خطرات مشارکت در عملیات نفوذی و انتشار محتوای اصلاح‌افته.
این اقدام به‌عنوان نمونه‌ای از تعامل میان حاکمیت، فناوری اطلاعات، و جامعه مدنی، کمک می‌کند تا سکیورتی نتایج مشهود بیشتری در برابر حملات در حوزه هوش مصنوعی حاصل شود.
پرسش‌های پرتکرار
عملیات ‘Trolling Stone’ چیست؟
عملیات ‘Trolling Stone’ یک کمپین نفوذ روسی بود که با استفاده از هوش مصنوعی نظراتی را در رسانه‌های آنلاین تولید و منتشر می‌کرد تا به‌جای منشور دست‌کاری شده، انتقادها و ادعاهایی را درباره‌ی پرونده‌های سیاسی در آرژانتین القا کند.
OpenAI چگونه حساب‌های مرتبط را مسدود کرد؟
OpenAI با ترکیبی از تحلیل رفتار، شناسایی الگوهای تولید محتوای خودکار و مقایسه با داده‌های شناسایی‌شده توسط دولت و سازمان‌های امنیتی، حساب‌های صادر کننده محتواهای صفت اتهام داده شده را فیلتر و بلاک کرد، سپس پوشش‌بندی دسترسی به سرویس‌های HLS و API را در این حساب‌ها لغو نمود.
