آموزش
آموزش OpenAI برای استفاده مسئولانه و ایمن از هوش مصنوعی
اپن‌ای‌آی در یک دوره آموزشی جدید، بهترین شیوه‌های استفاده مسئولانه و ایمن از هوش مصنوعی و ابزارهایی مثل ChatGPT را بررسی کرده؛ از دقت تا شفافیت.
اخبار
فلوشیپ ایمنی OpenAI: پرورش نسل نو پژوهشگران هوش مصنوعی
اوپن‌ای‌آی برنامه آزمایشی فلوشیپ ایمنی را برای حمایت از پژوهش مستقل در حوزه ایمنی و همسوسازی هوش مصنوعی و پرورش استعدادهای نسل بعد راه‌اندازی کرد.
مدل‌ها
آپرایل‌گارد: نگهبان جدید هوش مصنوعی در برابر حملات پیچیده
با رشد سامانه‌های عامل هوش مصنوعی، تهدیدهایی مانند تزریق فرمان و یادگیری خصمانه جدی شده‌اند. آپرایل‌گارد مدلی ۸ میلیارد پارامتری برای مقابله با این تهدیدهاست.
سیاست و قانون
OpenAI و بنیاد Agentic AI: گامی نوین برای استانداردهای ایمن هوش مصنوعی
OpenAI با بنیان‌گذاری Agentic AI Foundation به دنیای هوش مصنوعی استانداردهای ایمن و باز را معرفی کرده و با اهدا AGENTS.md، مسیر توسعه مسئولانه را هموار می‌کند.
پژوهش
OpenAI: چگونه آزمایش طرف ثالث اکوسیستم ایمنی هوش مصنوعی را تقویت می‌کند
OpenAI با همکاری کارشناسان مستقل، آزمایش‌های دوره‌ای روی هوش مصنوعی را برای افزایش ایمنی، اعتبار و شفافیت در ارزیابی مدل‌ها اجرا می‌کند؛ این کار اعتماد عمومی را تقویت می‌کند.
پژوهش
هوش مصنوعی: چرا مدل‌های زبانی گمراه می‌شوند و راه‌حل‌ها
بررسی جدید OpenAI دربارهٔ علت هلیوکولیشن در مدل‌های زبانی؛ نکات کلیدی برای ارتقاء اطمینان، صداقت و ایمنی هوش مصنوعی فاش می‌کند.
مدل‌ها
Meta معرفی Llama Guard 4: مدل جدید ایمنی هوش مصنوعی طبیعی
Meta با انتشار Llama Guard 4، مدل ایمنی چندرسانه‌ای 12B را معرفی می‌کند که برای جلوگیری از تولید محتوای ناامن در تولید متن و تصویر طراحی شده است. این مدل در هاب Hugging Face به صورت متن‌باز در دسترس قرار گرفته است.
سیاست و قانون
آینده ایمنی هوش مصنوعی: راهبرد تازه OpenAI برای جلوگیری از آسیب‌های عظیم
OpenAI چارچوب آماده‌سازی جدیدی برای اندازه‌گیری و کاهش ریسک‌های شدید ناشی از هوش مصنوعی پیشرفته معرفی کرده است. این نقشه راه جزئیات کلیدی در جلوگیری از ضررهای بزرگ را توضیح می‌دهد.
اخبار
هوش مصنوعی o3-mini؛ گزارش ایمنی OpenAI و ارزیابی‌های چارچوب آمادگی
گزارش کارت سیستم o3-mini نشان‌دهنده تعهد OpenAI به ایمنی است؛ از ارزیابی‌های داخلی تا تست نفوذ خارجی و چارچوب آمادگی. در این مقاله مرور می‌کنیم.
اخبار
رویکرد چندلایه OpenAI برای ایمنی هوش مصنوعی: از محافظت تا ارزیابی
اوپن‌ای‌آی با انتشار «Operator System Card»، رویکرد جامع خود را در برابر چالش‌های امنیتی هوش مصنوعی، شامل محافظت از حریم خصوصی و مقابله با حملات، تشریح می‌کند.