یک عملیات مخفی در پشت پرده محتواهای آنلاین
متخصصان شناسایی کردند که یک سری حساب‌های فعال در رسانه‌های دیجیتال، برخلاف راهنمایی OpenAI، هوش مصنوعی را برای تولید محتواهای سیاسی و تبلیغاتی استفاده می‌کردند. این حساب‌ها در خصوص مواضعی مانند اتهام به حماس، حمایت از اسرائیل، و سرکوب حزب BJP فعالیت می‌کردند.
چگونه OpenAI این فعالیت را کشف کرد؟
OpenAI الگوریتم‌سازی خود را برای شناسایی الگوهای تولید محتوا تکمیل کرد. با تجزیه و تحلیل مقالات، شناسایی شد که محتواها توسط مدل‌های زبانی (LLMs) تولید شده و با جذب‌های فلش‌بازی در شبکه‌های اجتماعی به‌اشتراک گذاشته می‌شد.
تعهد OpenAI به جلوگیری از سوءاستفاده‌های هوش مصنوعی
با مسدود کردن حساب‌ها، OpenAI تأیید کرد که تأمین امنیت و اطمینان از استفاده سالم هوش مصنوعی بر سرفصل اول تاریخچه است. این اقدام نشان می‌دهد که شرکت‌های فناوری در درازمدت درگیر بررسی و اصلاح مشکلات احتمالی نظمداری هستند.
- تصویب الگوریتم شناسایی هشدارهای هوش مصنوعی
- مسدود‌سازی حساب‌های مخفی و مرتبط با فعالیت‌های تبلیغاتی
- به‌روزرسانی قوانین استفاده در پلتفرم‌های رسانه اجتماعی
پرسش‌های پرتکرار
عملیات Zero Zeno به چه منظور به اجرا درآید؟
عملیات Zero Zeno به منظور تولید محتواهای هوش مصنوعی با رنگ‌های سیاسی، شامل حمایت از اسرائیل، ضد حماس، ضد Qatar و استمرار حمایت از حامیان حزب BJP، طراحی شد.
OpenAI چه اقداماتی برای جلوگیری از سوءاستفاده‌های هوش مصنوعی انجام داده؟
OpenAI حساب‌های مرتبط با این عملیات را مسدود کرده، الگوریتم‌های شناسایی محتواهای منشعب را به‌روزرسانی کرده و راهنمایی‌های سختگیرانه‌تری برای استفاده از مدل‌های خود ارائه داده.
