سیاست و قانون هوش مصنوعی و کمک به افراد در لحظات بحرانی: راهنمایی جدید اوپن‌ای‌آی اوپن‌ای‌آی با گام‌های تازه ایمنی، راهنمایی ویژه برای کاربران در حال تجربه اضطراب یا تنش روحی ارائه می‌دهد و محدودیت‌های سیستم‌های فعلی را بررسی می‌کند. ۴ شهریور ۱۴۰۴ ۲ دقیقه مدل‌ها از امتناع‌های سخت تا تکمیل‌های ایمن: به سوی آموزش ایمنیِ خروجی‌محور دریابید که چگونه رویکرد جدید تکمیل ایمن OpenAI در GPT-5، ایمنی و مفید بودن پاسخ‌های هوش مصنوعی را بهبود می‌بخشد - فراتر از امتناع‌های سخت به سمت آموزش ایمنی ظ ۱۶ مرداد ۱۴۰۴ ۲ دقیقه پژوهش هوش مصنوعی و HealthBench: استاندارد جدید ارزیابی مدل‌های پزشکی HealthBench، یک بَنک‌نشین منظم برای ارزیابی هوش مصنوعی در حوزه سلامت است. با همکاری بیش از ۲۵۰ متخصص پزشکی، این ابزار کیفیت و ایمنی مدل‌ها را در سناریوهای واقعی سنجیده می‌کند. ۲۲ اردیبهشت ۱۴۰۴ ۲ دقیقه مدل‌ها Meta معرفی Llama Guard 4: مدل جدید ایمنی هوش مصنوعی طبیعی Meta با انتشار Llama Guard 4، مدل ایمنی چندرسانه‌ای 12B را معرفی می‌کند که برای جلوگیری از تولید محتوای ناامن در تولید متن و تصویر طراحی شده است. این مدل در هاب Hugging Face به صورت متن‌باز در دسترس قرار گرفته است. ۹ اردیبهشت ۱۴۰۴ ۲ دقیقه سیاست و قانون آینده ایمنی هوش مصنوعی: راهبرد تازه OpenAI برای جلوگیری از آسیب‌های عظیم OpenAI چارچوب آماده‌سازی جدیدی برای اندازه‌گیری و کاهش ریسک‌های شدید ناشی از هوش مصنوعی پیشرفته معرفی کرده است. این نقشه راه جزئیات کلیدی در جلوگیری از ضررهای بزرگ را توضیح می‌دهد. ۲۶ فروردین ۱۴۰۴ ۲ دقیقه پژوهش تشخیص رفتار خرابکارانه مدل‌های استدلالی هوش مصنوعی با پایش زنجیره فکری اوپن‌ای‌آی نشان داد با نظارت بر زنجیره فکری مدل‌های استدلالی پیشرفته، می‌توان بهره‌برداری از حفره‌ها را شناسایی کرد؛ اما جریمه افکار بد به‌جای توقف رفتار، آن‌ها را وادار به پنهان‌کردن نیتشان می‌کند. ۲۰ اسفند ۱۴۰۳ ۲ دقیقه اخبار هوش مصنوعی o3-mini؛ گزارش ایمنی OpenAI و ارزیابی‌های چارچوب آمادگی گزارش کارت سیستم o3-mini نشان‌دهنده تعهد OpenAI به ایمنی است؛ از ارزیابی‌های داخلی تا تست نفوذ خارجی و چارچوب آمادگی. در این مقاله مرور می‌کنیم. ۱۲ بهمن ۱۴۰۳ ۲ دقیقه اخبار رویکرد چندلایه OpenAI برای ایمنی هوش مصنوعی: از محافظت تا ارزیابی اوپن‌ای‌آی با انتشار «Operator System Card»، رویکرد جامع خود را در برابر چالش‌های امنیتی هوش مصنوعی، شامل محافظت از حریم خصوصی و مقابله با حملات، تشریح می‌کند. ۴ بهمن ۱۴۰۳ ۳ دقیقه پژوهش هوش مصنوعی ایمن‌تر با استدلال؛ روش جدید هم‌ترازی اوپن‌ای‌آی OpenAI از استراتژی جدید هم‌ترازی برای مدل‌های o1 رونمایی کرد؛ مدل مستقیم مشخصات ایمنی را می‌آموزد و درباره آن‌ها استدلال می‌کند. این رویکرد ایمنی را متحول می‌کند. ۳۰ آذر ۱۴۰۳ ۲ دقیقه پژوهش هوش مصنوعی ایمن: بررسی کارت سیستم OpenAI o1 و اقدامات ایمنی کارت سیستم OpenAI o1، گزارش جامعی درباره‌ی اقدامات ایمنی پیش‌گیرانه، شامل تست ورژن‌های جانبی و ارزیابی خطرات پیشرفته بر اساس چارچوب آمادگی و استانداردهای بین‌المللی. ۱۵ آذر ۱۴۰۳ ۲ دقیقه