مدل‌ها
OpenAI با gpt‑oss‑safeguard نحوه ساخت دلایل ایمنی در هوش مصنوعی را باز می‌کند
OpenAI مدل gpt‑oss‑safeguard را معرفی کرده که امکان طبقه بندی ایمن‌سازی را برای توسعه دهندگان با وزن‌های باز فراهم می‌آورد؛ به‌منظور اعمال و بازنگری سیاست‌های سفارشی.
مدل‌ها
Meta معرفی Llama Guard 4: مدل جدید ایمنی هوش مصنوعی طبیعی
Meta با انتشار Llama Guard 4، مدل ایمنی چندرسانه‌ای 12B را معرفی می‌کند که برای جلوگیری از تولید محتوای ناامن در تولید متن و تصویر طراحی شده است. این مدل در هاب Hugging Face به صورت متن‌باز در دسترس قرار گرفته است.
اخبار
هوش مصنوعی در راه امن‌سازی: ۴ میلیون مدل بررسی شد
در این گزارش، پردازش ۴ میلیون مدل هوش مصنوعی توسط ابزار Guardian به همراه Protect AI، به‌منظور شناسایی آسیب‌پذیری‌های پیچیده و تسهیل امنیت در حیطه متن‌باز، بررسی می‌شود.
پژوهش
نوآوری OpenAI: سنجش مقاومت هوش مصنوعی در برابر حملات ناشناخته
OpenAI متدی جدید برای سنجش مقاومت شبکه‌های عصبی در برابر حملات خصمانه پیش‌بینی‌نشده معرفی کرده است. متریک UAR کارایی مدل‌ها را در برابر تهدیدات ناگهانی ارزیابی می‌کند.