ظهور تهدیدهای نوین در فضای دیجیتال
شرکت اوپن‌ای‌آی (OpenAI) افشا کرده است که یک کمپین تأثیرگذاری پنهان از سوی روسیه با استفاده از ابزارهای هوش مصنوعی، تلاش داشته روایتی غیرواقعی درباره تحولات منطقه‌ای ترویج کند. این اقدام که در چارچوب جنگ اطلاعاتی مدرن قرار می‌گیرد، نشان می‌دهد چگونه فناوری پیشرفته می‌تواند توسط بازیگران دولتی برای دستکاری افکار عمومی به کار گرفته شود.
چگونه هوش مصنوعی در خدمت تبلیغات جعلی قرار گرفت؟
در این پرونده، حساب‌هایی با ریشه روسی از قابلیت‌های تولید محتوای هوش مصنوعی برای ساخت و ترویج یک اندیشکده فرضی مستقر در اسرائیل استفاده کرده بودند. این محتوای جعلی همچنین شاخصی تحت عنوان «شاخص حاکمیت» را منتشر می‌کرد که با ستایش از روسیه و انتقاد از غرب، سعی در جهت‌دهی به دیدگاه مخاطبان داشت.
- استفاده از هوش مصنوعی برای تولید محتوای انبوه و ظاهراً معتبر
- ساخت هویت‌های جعلی با نام اندیشکده‌های معتبر بین‌المللی
- تمرکز بر تقویت روایت‌های ضدغربی و حمایت از سیاست‌های روسیه
واکنش OpenAI و پیامدهای احتمالی
با شناسایی این الگوی سوءاستفاده، شرکت اوپن‌ای‌آی حساب‌های متخلف را مسدود کرد. این اقدام نشان می‌دهد که شرکت‌های پیشرو در حوزه هوش مصنوعی در حال تقویت مکانیسم‌های نظارتی برای شناسایی و مهار استفاده‌های مخرب از فناوری خود هستند.
پرسش‌های پرتکرار
اوپن‌ای‌آی دقیقاً چه اقدامی در برابر کمپین روسیه انجام داد؟
این شرکت حساب‌های روسی متخلف را که از هوش مصنوعی برای ترویج محتوای جعلی استفاده کرده بودند، شناسایی و مسدود کرد.
چرا استفاده از هوش مصنوعی در کمپین‌های تأثیرگذاری نگران‌کننده است؟
چون فناوری‌های زبانی بزرگ توانایی تولید محتوای انبوه، پیچیده و ظاهراً معتبر را دارند که تشخیص آن را برای عموم دشوار می‌کند.
