معرفی GPT‑OSS‑SAFEEGUARD
پلتفرم OpenAI در گزارش فنی خود دو مدل برتر، gpt‑oss‑safeguard‑120b و gpt‑oss‑safeguard‑20b را معرفی کرده است. این مدل‌ها، به‌عنوان مدل‌های وزن‌های باز (open‑weight)، پس از پیش‑آموزش روی مجموعه عظیمی از داده‌های متنی، به‌صورت خاص برای پاسخگویی به یک قانون‌نامه (policy) تعیین‌شده و برچسب‌گذاری محتوای متون بر اساس آن قانون تهی‌شده‌اند.
- «توانایی تفکر منطقی» به منظور تبیین تصمیم‌نامه‌های برچسب‌گذاری
- متناسب با مقیاس‌های بزرگ (120B) و متوسط (20B)
- پایگاه ارزیابی ایمنی و مقایسه مستقیم با مدل‌های پایه gpt‑oss
آموزش و پیاده‌سازی مدل‌ها
پیش‌پردازش داده‌ها به این صورت بود که مجموعه‌ای از متون بر اساس سیاست دیواری (policy) برچسب‌گذاری شدند؛ سپس مدل‌های پایه gpt‑oss در حالت حاصلشوندنی (post‑trained) بر این داده‌ها آموزش یافتند. این روش تضمین می‌کند که مدل نه‌تنها متناسب با معماری gpt‑oss است، بلکه پاسخگویی دقیق‌تری به قوانین خاص توسعه یافته ارائه می‌دهد.
ارزیابی ایمنی و نتایج اولیه
در چارچوب ارزیابی‌ها، یک تست نُسخه پایه (baseline) بر مدل‌های gpt‑oss بدون سفارشی‌سازی انجام شد و نتایج به‌دست‌آمده با مدل‌های Safeguard مقایسه گردید. گزارش نشان داد که مدل gpt‑oss‑safeguard‑120b نسبت به مدل پایه ۹۰٪ دقت در تشخیص محتواهای حساس را بهبود بخشیده، در حالی که مدل 20B به‌صورت مناسب در محدوده‌ی منابع کمتر عملکرد بهینه‌ای نشان داد. این نتایج نمونه‌ای از اثربخشی آموزش سیاست‌محور هستند.
پرسش‌های پرتکرار
مدل‌های safegaurd چه کار می‌کنند؟
مدل‌های Safeguard به‌صورت خاص برای درک و برچسب‌گذاری محتوا بر اساس یک قانون‌نامه (policy) آموزش دیده‌اند، پس از آن می‌توانند هر متنی را مطابق با سیاست دلخواه با برچسب‌های مشخصی طبقه‌بندی کنند.
چگونه این مدل‌ها با گویشی‌های دردسترس در مقایسه می‌شوند؟
در گزارش فنی OpenAI، مدل‌های GPT‑OSS‑SAFEEGUARD در مقایسه با مدل‌های پایه gpt‑oss نشان دادند که دارای دقت بالاتر در تشخیص محتواهای حساس هستند، به‌خصوص در مدل 120B که بیش از ۹۰٪ دقت را ارائه داد.
