اخبار
آشنایی با نقشه راه جدید OpenAI برای ایمنی کودکان در عصر هوش مصنوعی
نقشه راه ایمنی کودکان OpenAI یک چارچوب مسئولانه برای توسعه هوش مصنوعی است که بر طراحی متناسب با سن و همکاری برای محافظت از کودکان در فضای آنلاین تمرکز دارد.
اخبار
فلوشیپ ایمنی OpenAI: پرورش نسل نو پژوهشگران هوش مصنوعی
اوپن‌ای‌آی برنامه آزمایشی فلوشیپ ایمنی را برای حمایت از پژوهش مستقل در حوزه ایمنی و همسوسازی هوش مصنوعی و پرورش استعدادهای نسل بعد راه‌اندازی کرد.
مدل‌ها
معرفی برنامه پاداش در ازای اشکال ایمنی OpenAI
OpenAI یک برنامه پاداش در ازای اشکال امنیتی راه‌اندازی می‌کند تا سوءاستفاده از هوش مصنوعی و خطرات ایمنی، از جمله آسیب‌پذیری‌های عامل‌دار، تزریق سریع و استخراج
اخبار
اُپن‌ای‌آی سیاست‌های ایمنی نوجوانان را برای توسعه‌دهندگان gpt-oss-safeguard منتشر کرد
اُپن‌ای‌آی سیاست‌های ایمنی نوجوانان مبتنی بر پرامپت را برای توسعه‌دهندگان هوش مصنوعی با gpt-oss-safeguard عرضه کرد تا ریسک‌های سنی در مدل‌های زبانی کاهش یابد.
محصولات
خلق ایمن با Sora
برای پرداختن به چالش‌های جدید ایمنی ناشی از یک مدل ویدیویی پیشرفته و همچنین یک پلتفرم جدید خلق آثار اجتماعی، ما Sora 2 و اپلیکیشن Sora را با محوریت ایمنی ساخت
سیاست و قانون
طرح ایمنی نوجوانان ژاپن؛ اپن‌ای‌آی محافظت از کودکان را تقویت می‌کند
اپن‌ای‌آی ژاپن از طرح ایمنی نوجوانان رونمایی کرد: کنترل‌های والدین، تشخیص سن و پروتکل‌های سلامت روان برای کاربران زیر سن قانونی در هوش مصنوعی مولد.
پژوهش
هوش مصنوعی در بهینه‌سازی سلسله‌مراتب دستورالعمل‌ها در LLMها
سرویس OpenAI با CHALLENGE ساختار دستورالعمل در مدل‌های LLM پیشرفته، بر دستورالعمل‌های معتبر تمرکز می‌کند، ایمنی را تقویت و مقاومت در برابر حمله تزریق Prompt را افزایش می‌دهد.
سیاست و قانون
حق‌نامهٔ OpenAI با وزارت نظام: محدودیت‌ها و حفاظت‌های قانونی در حوزه هوش مصنوعی
OpenAI با وزارت نظام آمریکا قرارداد جدیدی تنظیم کرد که حاکی از رعایت خطوط قرمز ایمنی، حمایت‌های قانونی و استفاده مسئولانه از سیستم‌های هوش مصنوعی در محیط‌های مخفی است. این متن در ادامه بررسی می‌شود.
پژوهش
هوش مصنوعی برای همه: OpenAI مدل‌های جهانی را به زبان محلی تبدیل می‌کند
OpenAI روش بومی‌سازی مدل‌های هوش مصنوعی را توضیح می‌دهد؛ نشا می‌کند چگونه در زبان‌های مختلف، ایمنی و قوانین را در کنار هم حفظ کنیم.
پژوهش
برنامه یارانه EMEA بهبود سلامتی جوانان در دوران هوش مصنوعی
برنامه یارانه EMEA با بودجه ۵۰۰٬۰۰۰ یورو، سازمان‌های غیردولتی و پژوهشگران را تشویق می‌کند تا پروژه‌های نوآورانه‌ای در حوزه سلامت و ایمنی جوانان در عصر هوش مصنوعی ارائه دهند.