OpenAI در تازه‌ترین گزارش خود از مقابله با سوءاستفاده از هوش مصنوعی، از مسدودسازی شبکه‌ای از حساب‌های جعلی خبر داده است که ظاهراً خاستگاه چینی داشتند. این حساب‌ها با استفاده از مدل‌های زبانی پیشرفته، محتوایی در شبکه‌های اجتماعی انگلیسی و همچنین مقاله‌هایی به زبان اسپانیایی تولید می‌کردند تا بر افکار عمومی تأثیر بگذارند.
عملیات «نارضایتی حمایت‌شده» چیست؟
این عملیات که از سوی OpenAI با عنوان «Sponsored Discontent» یا «نارضایتی حمایت‌شده» نام‌گذاری شده، نمونه‌ای از فعالیت‌های تأثیرگذاری پنهان است که در آن از هوش مصنوعی مولد برای تولید انبوه محتوای سیاسی و اجتماعی استفاده می‌شود. هدف اصلی این کمپین‌ها، ایجاد شکاف، تقویت روایت‌های خاص یا تحریف افکار عمومی در سطح بین‌المللی است.
بر اساس بررسی‌های انجام‌شده، این حساب‌ها اقدام به تولید پست‌هایی در موضوعات مختلف کرده‌اند که گاه شامل نظرات جعلی، اخبار جانب‌دارانه و حتی تحلیل‌های ظاهراً مستقل بوده است. نکته مهم این است که محتواها با دقت بالایی طراحی شده‌اند تا طبیعی و بومی به نظر برسند.
نقش هوش مصنوعی در تولید محتوای فریبنده
هوش مصنوعی به‌کاررفته در این کمپین‌ها نه‌تنها متن تولید می‌کرده، بلکه امکان مقیاس‌پذیری و شخصی‌سازی پیام‌ها را نیز فراهم می‌آورده است. این ویژگی‌ها باعث می‌شود که شناسایی و مقابله با چنین فعالیت‌هایی به مراتب دشوارتر از روش‌های سنتی باشد.
OpenAI اعلام کرده که این حساب‌ها با زیر پا گذاشتن سیاست‌های استفاده از سرویس‌هایش، اقدام به انتشار محتوای نامرتبط با اهداف پژوهشی یا فنی کرده‌اند. از جمله نشانه‌هایی که به شناسایی این شبکه کمک کرد عبارتند از:
- الگوهای زمانی غیرطبیعی در ارسال پست‌ها
- استفاده از عبارات کلیشه‌ای و تکراری در نوشته‌ها
- هماهنگی میان حساب‌های مختلف در بازنشر محتوا
- عدم تطابق اطلاعات پروفایل با رفتار واقعی کاربران
اقدامات OpenAI و چالش‌های پیش رو
این شرکت دسترسی حساب‌های متخلف را مسدود کرده و افزوده است که اطلاعات مرتبط با این عملیات را با دیگر پلتفرم‌ها و نهادهای امنیتی به اشتراک گذاشته است. OpenAI تأکید دارد که مقابله با سوءاستفاده‌های سازمان‌یافته از هوش مصنوعی نیازمند همکاری بین‌المللی و شفافیت داده‌ای است.
با وجود این اقدامات، کارشناسان معتقدند که با فراگیر شدن ابزارهای هوش مصنوعی، این نوع تهدیدها در آینده پیچیده‌تر خواهند شد. از همین رو، توسعه روش‌های تشخیص محتوای مصنوعی، اعمال سیاست‌های سخت‌گیرانه‌تر و افزایش سواد رسانه‌ای در میان عموم کاربران از ضرورت‌های اصلی این عرصه به شمار می‌رود.
پرسش‌های پرتکرار
عملیات نارضایتی حمایت‌شده که OpenAI آن را مسدود کرد چه بود؟
این عملیات شبکه‌ای از حساب‌های جعلی مرتبط با چین بود که با کمک هوش مصنوعی محتوای انگلیسی و اسپانیایی برای تأثیرگذاری بر افکار عمومی تولید می‌کردند.
OpenAI چگونه حساب‌های جعلی مرتبط با این عملیات را شناسایی کرد؟
OpenAI با بررسی الگوهای رفتاری غیرطبیعی، هماهنگی در بازنشر محتوا، و استفاده از عبارات تکراری، موفق به شناسایی و مسدودسازی این شبکه شد.
