OpenAI و مبارزه با فعالیت‌های مخرب
در آخرین اقدام خود، OpenAI به‌جای هم‌چنین ادعای وجود یک عملیات مخفی، حساب‌های تلگرامی که در فعالیت «Bad Grammar» درگیر بودند را شناسایی و مسدود کرد. این اقدام به‌صورت کامل تا حد امکان در راستای حفظ امنیت گفت‌وگوی آنلاین و جلوگیری از پراکندگی اطلاعات نادرست بود.
«Bad Grammar»: کی بود و چه کاری می‌کرد؟
- انجمن‌هایی در تلگرام که توسط، نوعی جنگ اطلاعاتی روسیه، فعالیت می‌کردند.
- ساختن نظرات در زبان انگلیسی و روسی دربارهٔ اوکراین، مولداوی، کشورهای بالتیک و سیاست آمریکا.
- استفاده از هوش مصنوعی در تولید متن با القای تغییر الگوهای نوشتاری و گرامری.
تأثیر اقدامات بر فضای گفتگو
گزارش‌های بعد از مسدود کردن حساب‌ها نشان داد که حداقل ۱۰۰۰ حساب فعال در دست دخالت بودند. پیام‌های انتشار شده در این شبکه گویانه اکنون توسط الگوریتم‌های فیلترینگ OpenAI در معرض بررسی و به‌روزرسانی قرار می‌گیرند که مخاطبین اوکراین و کشورهای حوزه بالتیک، درک بهتری از اخبار سیاسی خود خواهند داشت.
پرسش‌های پرتکرار
چطور OpenAI حساب‌های مرتبط با محدوده «Bad Grammar» را شناسایی کرد؟
OpenAI با تجزیه‌وتجزیهٔ محتوای تولیدی توسط هوش مصنوعی، الگوهای مشابه در زبان انگلیسی و روسی را شناسایی کرده و جستجوی حساب‌های فعال بر أساس پارامترهای فیلترینگ انجام داد.
پیام این اقدام برای دولت‌ها و جامعهٔ عمومی چیست؟
این اقدام نشان‌دهندهٔ تعهد OpenAI به محدود کردن دزدی اطلاعات و جنگ‌های سلاح‌های هدرگویی است و پیام می‌دهد که شرکت‌های فناوری مسئولیت اخلاقی در جلوگیری از سوء استفاده از هوش مصنوعی را بر عهده دارند.
