اخبار
Gray Swan به کنسرسیوم هوش مصنوعی NIST می‌پیوندد
Gray Swan اعلام کرد که به کنسرسیوم هوش مصنوعی مؤسسه ملی استاندارد و فناوری آمریکا (NIST) ملحق شده است تا در تدوین استانداردهای ایمنی و ارزیابی مدل‌های هوش مصنوعی همکاری کند.
پژوهش
CWE-bench v2: آزمایشگاه تازه برای امنی هوش مصنوعی
نسخه دوم CWE-bench از Hugging Face با ۱۰۰ وظیفه عمومی منتشر شد تا ایمنی شبکه‌های عصبی در کشف و رفع عمده‌های امنیتی نرم‌افزار را به‌طور شفاف و قابل تکرار بسنجد.
سیاست و قانون
OpenAI طرح جدید امنیتی برای نوجوانان در چت‌جی‌پی منتشر کرد
شرکت OpenAI با انتشار گزارش ایمنی اخیر و راه‌اندازی تدابیر اضافی، بر پیشگیری از خشونت در چت‌جی‌پی برای نوجوانان تأکید کرده و تعاملات را زودهنگام‌تر کنترل می‌کند.
کسب‌وکار
آینده هوش مصنوعی در سم‌شناسی پیش‌بینانه؛ رشد تقاضای جهانی
با افزایش تقاضای جهانی، بازار هوش مصنوعی در سم‌شناسی پیش‌بینانه رشد چشمگیری یافته و به ابزاری کلیدی برای ارزیابی ایمنی داروها تبدیل شده است.
اخبار
پیش‌بینی رفتار هوش مصنوعی با شبیه‌سازی استقرار توسط OpenAI
OpenAI روشی نوین به نام شبیه‌سازی استقرار معرفی کرده است که با داده‌های واقعی گفتگو، رفتار مدل‌ها را پیش از عرضه پیش‌بینی می‌کند.
اخبار
رویکرد چندلایه OpenAI برای ایمنی هوش مصنوعی: از محافظت تا ارزیابی
اوپن‌ای‌آی با انتشار «Operator System Card»، رویکرد جامع خود را در برابر چالش‌های امنیتی هوش مصنوعی، شامل محافظت از حریم خصوصی و مقابله با حملات، تشریح می‌کند.
پژوهش
OpenAI و لوس بالاموس برای توسعه و ارزیابی ایمنی مدل‌های هوش مصنوعی پیشرفته
همکاری OpenAI و لوس بالاموس، دو نهاد پیشرو، برای ارزیابی ایمنی و کنترل خطرات زیستی مدل‌های هوش مصنوعی پیشرفته در فاز اولیه تحقیقاتی آغاز کرده‌اند.