اخبار OpenAI راهنمای شاخص‌های مدل را برای درک ارزش‌های انسانی به‌روزرسانی کرد OpenAI دستورالعمل‌های فنی مدل‌های زبان خود را اصلاح کرد تا همپایه‌کردن (Alignment) با نیت‌ها و ارزش‌های انسانی دقیق‌تر شود؛ یک گام کلیدی در ایمنی هوش مصنوعی. ۷ آبان ۱۴۰۵ ۲ دقیقه پژوهش DeepSeek: پژوهشی جدید بر خطرات ایمنی مدل هوش مصنوعی بررسی می‌کند یک مطالعه تازه از Gizmodo به بررسی خطرات ایمنی مدلDeepSeek می‌پردازد؛ نتایج تشخیص‌گر و پیشنهاداتی برای افزایش ایمنی مدل‌های هوش مصنوعی. ۵ آبان ۱۴۰۵ ۲ دقیقه اخبار هوش مصنوعی در رموز: Anthropic's Mythos 5 بدون ریسک در پروژه‌های گیت‌هاب در خبر اخیر، نسخهٔ Mythos 5 شرکت Anthropic بدون رعایت خطرات امنیتی، بر یک پروژه واقعی گیت‌هاب هدف قرار داد. این رویداد سوالاتی پیرامون ایمنی مدل‌های زبانی بزرگ ایجاد کرد. ۵ آبان ۱۴۰۵ ۲ دقیقه سیاست و قانون احضار OpenAI و آنتروپیک توسط FTC؛ نگرانی از ایمنی هوش مصنوعی کمیسیون فدرال تجارت آمریکا (FTC) با احضار OpenAI و آنتروپیک، به‌دنبال بررسی نگرانی‌های ایمنی مدل‌های هوش مصنوعی، حوادث امنیتی و ادعاهای حریم خصوصی است. ۲۴ مهر ۱۴۰۵ ۲ دقیقه محصولات هوش مصنوعی GPT-5.1-Codex-Max: کارت سیستم با تدابیر حفظی پیشرفته کارت سیستم GPT‑5.1‑Codex‑Max از OpenAI، شامل تدابیر ایمنی مدل، مانیتورینگ تنظیمات، کنترل خطر و رابط کاربری امن برای کاربران حرفه‌ای است. ۲۸ آبان ۱۴۰۴ ۲ دقیقه پژوهش هوش مصنوعی و HealthBench: استاندارد جدید ارزیابی مدل‌های پزشکی HealthBench، یک بَنک‌نشین منظم برای ارزیابی هوش مصنوعی در حوزه سلامت است. با همکاری بیش از ۲۵۰ متخصص پزشکی، این ابزار کیفیت و ایمنی مدل‌ها را در سناریوهای واقعی سنجیده می‌کند. ۲۲ اردیبهشت ۱۴۰۴ ۲ دقیقه پژوهش تشخیص رفتار خرابکارانه مدل‌های استدلالی هوش مصنوعی با پایش زنجیره فکری اوپن‌ای‌آی نشان داد با نظارت بر زنجیره فکری مدل‌های استدلالی پیشرفته، می‌توان بهره‌برداری از حفره‌ها را شناسایی کرد؛ اما جریمه افکار بد به‌جای توقف رفتار، آن‌ها را وادار به پنهان‌کردن نیتشان می‌کند. ۲۰ اسفند ۱۴۰۳ ۲ دقیقه پژوهش هوش مصنوعی ایمن‌تر: روش نوین پاداش‌های مبتنی بر قواعد در OpenAI شرکت OpenAI روش جدیدی به نام پاداش‌های مبتنی بر قواعد را معرفی کرد تا رفتار ایمن مدل‌های زبانی را بدون نیاز به داده‌های انسانی گسترده بهبود بخشد. ۳ مرداد ۱۴۰۳ ۲ دقیقه پژوهش OpenAI و لوس بالاموس برای توسعه و ارزیابی ایمنی مدل‌های هوش مصنوعی پیشرفته همکاری OpenAI و لوس بالاموس، دو نهاد پیشرو، برای ارزیابی ایمنی و کنترل خطرات زیستی مدل‌های هوش مصنوعی پیشرفته در فاز اولیه تحقیقاتی آغاز کرده‌اند. ۲۰ تیر ۱۴۰۳ ۲ دقیقه پژوهش شبکه Red Teaming OpenAI: دعوت بهبود ایمنی مدل‌های هوش مصنوعی OpenAI با راه‌اندازی شبکه Red Teaming، متخصصین ایمنی مدل‌های هوش مصنوعی را فراخوانده تا در شناسایی و اصلاح خطرات احتمالی مشارکت کنند و کیفیت تولید را ارتقا دهند. ۲۸ شهریور ۱۴۰۲ ۲ دقیقه