شرکت OpenAI اعلام کرد که با هدف ارتقای استانداردهای امنیتی، مجموعه‌ای از اقدامات جدید را برای حفاظت از نوجوانان در پلتفرم چت‌جی‌پی راه‌اندازی نموده است. این اقدامات در راستای کاهش ریسک‌های مربوط به محتوای خشونت‌آمیز و تضمین تجربه‌ای امن‌تر برای کاربران年轻 تنظیم شده است. گزارش ایمنی اخیر نشان می‌دهد که شرکت بر شناسایی الگوهای پرخشونت و مداخله‌های زودهنگام تمرکز ویژه دارد.
گزارش جامع ایمنی جامعه
در بخشی از این گزارش، OpenAI داده‌های مربوط به تعاملات کاربران و الگوهای خطرناک را تحلیل کرده است. این شفافیت مطلق به محققان و جامعه نشان می‌دهد که چگونه هوش مصنوعی در مرزهای اخلاقی عمل می‌کند. شرکت ابراز امیدواری کرده که این گزارش‌های دوره‌ای به بهبود مستمر مدل‌ها کمک شایانی خواهد کرد.
تدابیر ویژه برای نوجوانان
از جمله مهم‌ترین تغییرات، تقویت فیلترهای امنیتی برای سنین نوجوان است. اکنون سیستم‌ها با واکنش سریع‌تری به کلمات کلیدی خطرناک وارد عمل می‌شوند. این رویکرد از ارائه‌ی دستورات مضر جلوگیری کرده و به جای آن، راهنمایی‌های ایمن ارائه می‌دهد. هدف اصلی، ایجاد محیطی است که نوجوانان بتوانند با اطمینان خاطر از قابلیت‌های هوش مصنوعی بهره‌مند شوند.
تعهد به ایمنی عمومی
OpenAI هدف‌گذاری کرده است که مستعدی‌های ایمنی را به‌صورت عمومی منتشر کند تا پایداری و شفافیت پلتفرم حفظ شود. این رویکرد نوآورانه در صنعت هوش مصنوعی می‌تواند الگویی برای سایر شرکت‌ها باشد. در نهایت، تمرکز بر امنیت نوجوانان نشان‌دهنده مسئولیت‌پذیری اجتماعی شرکت در عصر هوش مصنوعی است.
پرسش‌های پرتکرار
OpenAI چه تغییرات جدیدی برای ایمنی نوجوانان وارد کرده است؟
شرکت تدابیر اجرائی جدیدی شامل مداخله‌های زودهنگام‌تر افزایش سن‌سورها و گزارش‌دهی عمومی تر برای پیشگیری از خشونت و محتوای مشکل‌ساز ارائه کرده است.
آیا کاربران کوچک‌سال به اطلاعات این گزارش دسترسی دارند؟
گزارش ایمنی عمومی است و در وب‌سایت رسمی منتشر می‌شود تا شفافیت و سلامت ایجاد کند.
