مدل‌ها Meta معرفی Llama Guard 4: مدل جدید ایمنی هوش مصنوعی طبیعی Meta با انتشار Llama Guard 4، مدل ایمنی چندرسانه‌ای 12B را معرفی می‌کند که برای جلوگیری از تولید محتوای ناامن در تولید متن و تصویر طراحی شده است. این مدل در هاب Hugging Face به صورت متن‌باز در دسترس قرار گرفته است. ۹ اردیبهشت ۱۴۰۴ ۲ دقیقه سیاست و قانون آینده ایمنی هوش مصنوعی: راهبرد تازه OpenAI برای جلوگیری از آسیب‌های عظیم OpenAI چارچوب آماده‌سازی جدیدی برای اندازه‌گیری و کاهش ریسک‌های شدید ناشی از هوش مصنوعی پیشرفته معرفی کرده است. این نقشه راه جزئیات کلیدی در جلوگیری از ضررهای بزرگ را توضیح می‌دهد. ۲۶ فروردین ۱۴۰۴ ۲ دقیقه پژوهش تشخیص رفتار خرابکارانه مدل‌های استدلالی هوش مصنوعی با پایش زنجیره فکری اوپن‌ای‌آی نشان داد با نظارت بر زنجیره فکری مدل‌های استدلالی پیشرفته، می‌توان بهره‌برداری از حفره‌ها را شناسایی کرد؛ اما جریمه افکار بد به‌جای توقف رفتار، آن‌ها را وادار به پنهان‌کردن نیتشان می‌کند. ۲۰ اسفند ۱۴۰۳ ۲ دقیقه اخبار هوش مصنوعی o3-mini؛ گزارش ایمنی OpenAI و ارزیابی‌های چارچوب آمادگی گزارش کارت سیستم o3-mini نشان‌دهنده تعهد OpenAI به ایمنی است؛ از ارزیابی‌های داخلی تا تست نفوذ خارجی و چارچوب آمادگی. در این مقاله مرور می‌کنیم. ۱۲ بهمن ۱۴۰۳ ۲ دقیقه اخبار رویکرد چندلایه OpenAI برای ایمنی هوش مصنوعی: از محافظت تا ارزیابی اوپن‌ای‌آی با انتشار «Operator System Card»، رویکرد جامع خود را در برابر چالش‌های امنیتی هوش مصنوعی، شامل محافظت از حریم خصوصی و مقابله با حملات، تشریح می‌کند. ۴ بهمن ۱۴۰۳ ۳ دقیقه پژوهش هوش مصنوعی ایمن‌تر با استدلال؛ روش جدید هم‌ترازی اوپن‌ای‌آی OpenAI از استراتژی جدید هم‌ترازی برای مدل‌های o1 رونمایی کرد؛ مدل مستقیم مشخصات ایمنی را می‌آموزد و درباره آن‌ها استدلال می‌کند. این رویکرد ایمنی را متحول می‌کند. ۳۰ آذر ۱۴۰۳ ۲ دقیقه پژوهش هوش مصنوعی ایمن: بررسی کارت سیستم OpenAI o1 و اقدامات ایمنی کارت سیستم OpenAI o1، گزارش جامعی درباره‌ی اقدامات ایمنی پیش‌گیرانه، شامل تست ورژن‌های جانبی و ارزیابی خطرات پیشرفته بر اساس چارچوب آمادگی و استانداردهای بین‌المللی. ۱۵ آذر ۱۴۰۳ ۲ دقیقه محصولات Outlines-core 0.1.0: هوش مصنوعی در Rust و Python تولید خروجی ساختار یافته تولید متن‌های ساختار یافته با Outlines-core نسخه 0.1.0، پشتیبانی از Rust و Python، سرعت، ایمنی و قابلیت تعمیم بالا برای مدل‌های زبانی بزرگ. ۱ آبان ۱۴۰۳ ۲ دقیقه محصولات هوش مصنوعی در همکاری انسان و عامل: راه‌کار جدید Altera با GPT‑4o Altera با استفاده از مدل GPT‑4o، امکان همکاری انسان و عامل را در محیط‌های حرفه‌ای بهبود داده و زمینه‌ای نوین برای تولید محتوا و تعاملات هوشمند ایجاد می‌کند. ۱۰ مهر ۱۴۰۳ ۲ دقیقه اخبار به‌روزرسانی در مورد شیوه‌های ایمنی و امنیتی ما به‌روزرسانی در مورد شیوه‌های ایمنی و امنیتی ما ۲۶ شهریور ۱۴۰۳ ۲ دقیقه