سیاست و قانون هشدار جدی: عوامل هوش مصنوعی مستقل، تهدیدی برای امنیت ملی گزارشی جدید درباره عوامل هوش مصنوعی مستقل هشدار می‌دهد که این سیستم‌ها ممکن است قادر به دور زدن تمام مکانیزم‌های توقف باشند و امنیت ملی را به خطر بیندازند. ۱۳ آبان ۱۴۰۵ ۴ دقیقه اخبار هشدار آنتروپیک در آستانه عرضه اولیه سهام: هوش مصنوعی می‌تواند فاجعه‌بار باشد شرکت آنتروپیک در اسناد عرضه اولیه سهام خود هشدار داده که سوءاستفاده از هوش مصنوعی می‌تواند خطرات فاجعه‌بار و حتی وجودی برای بشریت ایجاد کند. ۵ آبان ۱۴۰۵ ۳ دقیقه سیاست و قانون ترامپ می‌گوید تعویض «هوش مصنوعی» را می‌پذیرد؛ چرا این تحولی؟ ترامپ اعلام کرد که قصد دارد بر اصطلاح هوش مصنوعی ایمن‌سازی کند، او در یک گفتهٔ عمده به دنبال تغییر نام و رژیم قانونی این فناوری است. ۵ آبان ۱۴۰۵ ۲ دقیقه اخبار اُپن‌ای‌آی سیاست‌های ایمنی نوجوانان را برای توسعه‌دهندگان gpt-oss-safeguard منتشر کرد اُپن‌ای‌آی سیاست‌های ایمنی نوجوانان مبتنی بر پرامپت را برای توسعه‌دهندگان هوش مصنوعی با gpt-oss-safeguard عرضه کرد تا ریسک‌های سنی در مدل‌های زبانی کاهش یابد. ۴ فروردین ۱۴۰۵ ۲ دقیقه سیاست و قانون طرح ایمنی نوجوانان ژاپن؛ اپن‌ای‌آی محافظت از کودکان را تقویت می‌کند اپن‌ای‌آی ژاپن از طرح ایمنی نوجوانان رونمایی کرد: کنترل‌های والدین، تشخیص سن و پروتکل‌های سلامت روان برای کاربران زیر سن قانونی در هوش مصنوعی مولد. ۲۶ اسفند ۱۴۰۴ ۲ دقیقه محصولات هوش مصنوعی ایمن: OpenAI برای حفاظت پس از کلیک بر لینک OpenAI با افزونهٔ امنیتی، خطر استخراج داده‌های کاربران و حملات Injections در هنگام کلیک بر لینک توسط هوش مصنوعی را کاهش می‌دهد. ۸ بهمن ۱۴۰۴ ۲ دقیقه کسب‌وکار تحول ساختار OpenAI: تقویت بنیاد غیرانتفاعی برای آینده هوش مصنوعی OpenAI در حال تحول ساختاری است تا ماموریت خود را در توسعه هوش مصنوعی ایمن و مفید تسریع بخشد. بنیاد غیرانتفاعی قوی‌تر، با حمایت از موفقیت بخش انتفاعی، به پیشبرد اهداف بلندمدت کمک می‌کند. ۷ دی ۱۴۰۳ ۳ دقیقه پژوهش هوش مصنوعی ایمن‌تر با استدلال؛ روش جدید هم‌ترازی اوپن‌ای‌آی OpenAI از استراتژی جدید هم‌ترازی برای مدل‌های o1 رونمایی کرد؛ مدل مستقیم مشخصات ایمنی را می‌آموزد و درباره آن‌ها استدلال می‌کند. این رویکرد ایمنی را متحول می‌کند. ۳۰ آذر ۱۴۰۳ ۲ دقیقه پژوهش هوش مصنوعی ایمن: بررسی کارت سیستم OpenAI o1 و اقدامات ایمنی کارت سیستم OpenAI o1، گزارش جامعی درباره‌ی اقدامات ایمنی پیش‌گیرانه، شامل تست ورژن‌های جانبی و ارزیابی خطرات پیشرفته بر اساس چارچوب آمادگی و استانداردهای بین‌المللی. ۱۵ آذر ۱۴۰۳ ۲ دقیقه پژوهش هوش مصنوعی ایمن‌تر: روش نوین پاداش‌های مبتنی بر قواعد در OpenAI شرکت OpenAI روش جدیدی به نام پاداش‌های مبتنی بر قواعد را معرفی کرد تا رفتار ایمن مدل‌های زبانی را بدون نیاز به داده‌های انسانی گسترده بهبود بخشد. ۳ مرداد ۱۴۰۳ ۲ دقیقه