بارزترین اقدام OpenAI در برابر فیک نیوز روسی
در سال ۲۰۲۴، OpenAI شرکت پیشرو در حوزه هوش مصنوعی، حساب‌هایی با منشأ روسی به عنوان «اپریشن Stop News» را شناسایی و مسدود نمود. این ردیف اکانت‌ها به‌وسیله مدل‌های تولید متن، مقالات و پست‌های چندزبانه را ایجاد می‌کردند تا به هدف‌های نفوذ اطلاعاتی در کشورهای اوکراین و کشورهای غربی دست یابند.
کشورهای هدف: اوکراین و غرب
مطالب تولید شده عمدتاً به روابط دفاعی اوکراین و انتخابات‌های مهم غربی متمرکز بود و با دقت بالا در انتخاب کلمات و اصطلاحات سیاست‌مدارها، سعی در ایجاد تندبینی‌های ناحق داشت. این فعالیت را می‌توان به‌عنوان یک عملیات نفوذ شبکه‌ای در قالب فیک نیوز درک کرد.
تأثیرگیری در سایر پلتفرم‌ها
پس از مسدودسازی، تعدادی هزار حساب در سراسر پلتفرم‌های اجتماعی فعال شد؛ پس از انجام این اقدام، میزان انتشار مطالب جعلی در فضاهای فارسی و انگلیسی به شدت کاهش یافت. OpenAI گزارش داد که دسترسی به محتواهای این گروه، تا حدود ۶۰ درصد کاهش یافته است.
- مسدودسازی لحظه‌ای حساب‌های روسی
- کنترل محتوای چندزبانه تولید شده با مدل‌ها
- مانیتورینگ پیوسته برای جلوگیری از بازگشت فیک نیوز
پرسش‌های پرتکرار
چه اقداماتی OpenAI برای جلوگیری از انتشار اخبار جعلی انجام داده؟
OpenAI حساب‌های منشأ روسی به نام ‘Stop News’ را مسدود کرده و تمام محتواهای تولید شده توسط مدل‌ها را فیلتر و مانیتور می‌کند.
این اقدامات چقدر مؤثر بوده‌اند؟
با مسدودسازی هزاران حساب، دسترسی محتویات جعلی همچون اخبار چندزبانه به هدف‌های شناختی شرق و غرب کم شده است.
