پژوهش
هوش مصنوعی با دقت بالا STORM‑0817 را متوقف کرد: بازدارندهٔ حملات مخرب ایران
خلاصهٔ تحقیقی دربارهٔ نکات مهم OpenAI که حساب‌های ایران‑متعلق به STORM‑0817 را برای پاکسازی بدافزارهای اندروید و استخراج داده‌های مخرب مسدود کرد. این اقدام، بهره‌برداری هوش مصنوعی در امنیت سایبری را نشان می‌دهد.
اخبار
عرصه هوش مصنوعی: تست استرس‌زا و بررسی نقص امنیت دریب‌های گفتگو
اچ‌اف و لایت‌هاوز با راه‌اندازی عرصه جدید، پایداری محافظت‌های حریم خصوصی مدل‌های زبانی بزرگ را در برابر تلاش‌های تسریب داده‌های حساس آزمایش می‌کنند.
پژوهش
هوش مصنوعی تازه: مدیر جدید Frontier Model Forum و صندوق ایمنی 10M$
اسنادی OpenAI نزدیک Frontier Model Forum، هم‌وقتی با Anthropic، Google و Microsoft، مدیر اجرایی جدیدی را معرفی کرد و صندوق ایمنی 10M$ ایجاد کرد.
محصولات
DALL·E 3 در ChatGPT Plus و Enterprise: امکانات و پیش‌بینی‌های امنیتی اخیر
OpenAI با معرفی DALL·E ۳ جدید، مهارت‌های خلق تصویر در ChatGPT Plus و Enterprise را ارتقا داده؛ امنیت، صحت و دسترسی جدید را به‌روزرسانی کرده است.
سیاست و قانون
هوش مصنوعی: پیشرفت‌های حاکمیتی OpenAI و پژوهشگران برتر
تفاوت‌های حاکمیت هوش مصنوعی با تعهدات داوطلبانه OpenAI و سایر آزمایشگاه‌های برتر را بررسی می‌کند. نکات کلیدی در امنیت، شفافیت و اعتمادپذیری.
پژوهش
OpenAI با برنامه پرداخت خطای خود، امنیت هوش مصنوعی را تقویت می‌کند
OpenAI برنامه‌ی پرداخت خطا را آغاز کرد؛ با این برنامه متخصصان امنیت می‌توانند آسیب‌پذیری‌های هوش مصنوعی را گزارش کنند و جوایز دریافت نمایند.
پژوهش
نوآوری OpenAI: سنجش مقاومت هوش مصنوعی در برابر حملات ناشناخته
OpenAI متدی جدید برای سنجش مقاومت شبکه‌های عصبی در برابر حملات خصمانه پیش‌بینی‌نشده معرفی کرده است. متریک UAR کارایی مدل‌ها را در برابر تهدیدات ناگهانی ارزیابی می‌کند.
پژوهش
هوش مصنوعی: چالش‌های ایمنی واقعی در پژوهش کنکریت و راهکارهای پیشنهادی
مقالهٔ تازه Google Brain با همکاران دانشگاه Berkeley و Stanford به بررسی چالش‌های واقعی ایمنی هوش مصنوعی می‌پردازد و راهکارهای عملی برای تضمین عملکرد صحیح مدل‌های یادگیری ماشین بیان می‌کند.