OpenAI به‌تازگی اعلام کرد که مجموعه‌ای از حساب‌های مرتبط با ایران را که از هوش مصنوعی برای تولید مقاله و پست‌های شبکه‌های اجتماعی استفاده می‌کردند، مسدود کرده است. این حساب‌ها به عملیات تأثیرگذاری موسوم به IUVM و STORM-2035 مرتبط بودند و تلاش داشتند با تولید محتوای خودکار، افکار عمومی را تحت تأثیر قرار دهند.
جزئیات اقدام OpenAI
بر اساس گزارش رسمی OpenAI، این شرکت فعالیت‌های مشکوکی را شناسایی کرد که در آن‌ها از مدل‌های زبانی بزرگ برای تولید مقالات و نظرات در شبکه‌های اجتماعی استفاده می‌شد. این محتواها عمدتاً در مورد مسائل سیاسی و اجتماعی منتشر می‌شد و هدف آن‌ها ایجاد شکاف و بی‌اعتمادی عمومی بود.
- مسدودسازی ده‌ها حساب کاربری مرتبط با این عملیات
- شناسایی الگوهای رفتاری مشترک میان حساب‌های جعلی
- همکاری با پلتفرم‌های دیگر برای مقابله با انتشار محتوای مضر
- اعمال قوانین سخت‌گیرانه‌تر برای جلوگیری از سوءاستفاده از هوش مصنوعی
واکنش به عملیات تأثیرگذاری خارجی
این اقدام نشان‌دهنده تلاش شرکت‌های فناوری برای مقابله با سوءاستفاده از هوش مصنوعی در عملیات نفوذ و جنگ اطلاعاتی است. OpenAI تأکید کرده است که به‌طور مستمر فعالیت‌های مشکوک را رصد می‌کند و با هرگونه تلاش برای دستکاری افکار عمومی از طریق ابزارهای هوش مصنوعی برخورد خواهد کرد. این اولین بار نیست که از هوش مصنوعی در کمپین‌های تأثیرگذاری استفاده می‌شود، اما پاسخ سریع OpenAI نشان‌دهنده اهمیت امنیت سایبری و اعتماد عمومی به فناوری‌های نوین است.
به گزارش تحلیلگران، عملیات‌های تأثیرگذاری مبتنی بر هوش مصنوعی به دلیل سرعت و مقیاس تولید محتوا، تهدیدی جدی برای فضای دیجیتال محسوب می‌شوند. با این حال، شناسایی و خنثی‌سازی این فعالیت‌ها توسط شرکت‌های پیشرو می‌تواند تا حدی از تأثیرات مخرب آن‌ها بکاهد.
پرسش‌های پرتکرار
OpenAI چه اقداماتی برای مقابله با سوءاستفاده از هوش مصنوعی انجام داده است؟
OpenAI با شناسایی و مسدودسازی حساب‌های مرتبط با عملیات نفوذ، همکاری با سایر پلتفرم‌ها و اعمال سیاست‌های سخت‌گیرانه‌تر، تلاش کرده است از سوءاستفاده از هوش مصنوعی در تولید محتوای مضر جلوگیری کند.
هدف عملیات تأثیرگذاری مرتبط با ایران چه بود؟
بر اساس گزارش OpenAI، این عملیات با استفاده از هوش مصنوعی برای تولید مقاله و پست‌های شبکه‌های اجتماعی تلاش داشتند افکار عمومی را در مورد مسائل سیاسی و اجتماعی تحت تأثیر قرار دهند و شکاف و بی‌اعتمادی ایجاد کنند.
