اخبار
برنامه کمک‌هزینه امنیت سایبری OpenAI؛ هوش مصنوعی در خدمت مدافعان
OpenAI برنامه‌ای برای ارائه کمک‌هزینه به توسعه‌دهندگان راهکارهای امنیت سایبری مبتنی بر هوش مصنوعی آغاز کرده است؛ هدف: تقویت توان مدافعان در برابر تهدیدها.
اخبار
حسابرسی امنیتی safetensors تأیید شد؛ فرمت پیش‌فرض ذخیره مدل‌های هوش مصنوعی
حسابرسی امنیتی Trail of Bits امنیت کتابخانه safetensors را تأیید کرد و سه شرکت پیشرو، این فرمت را به استاندارد پیش‌فرض ذخیره مدل‌های هوش مصنوعی تبدیل می‌کنند.
پژوهش
حذف داده‌های تکراری در مقیاس بزرگ؛ راز آموزش هوش مصنوعی باکیفیت
پروژه BigCode با روش‌های پیشرفته deduplication، داده‌های تکراری را در مقیاس بزرگ حذف می‌کند تا مدل‌های زبانی با کیفیت و امنیت بالاتری آموزش ببینند.
پژوهش
OpenAI با برنامه پرداخت خطای خود، امنیت هوش مصنوعی را تقویت می‌کند
OpenAI برنامه‌ی پرداخت خطا را آغاز کرد؛ با این برنامه متخصصان امنیت می‌توانند آسیب‌پذیری‌های هوش مصنوعی را گزارش کنند و جوایز دریافت نمایند.
پژوهش
چگونه OpenAI راهکارهای ایمنی هوش مصنوعی خود را در توسعه و بهره‌برداری پیاده‌سازی می‌کند
OpenAI با تأکید بر طراحی، آزمایش و نظارت مستمر، در مسیر ساخت و راه‌اندازی سیستم‌های هوش مصنوعی، راهبرد ایمنی تحلیلی و اخلاقی را ارائه می‌دهد.
محصولات
هوش مصنوعی در ChatGPT: افزونه‌های جدید، دسترسی به داده‌های به‌روز و امنیت پیشرفته
ChatGPT با معرفی افزونه‌های تازه، امکان دسترسی به اطلاعات روز، انجام محاسبات و سرویس‌های ۳ام را فراهم کرده و ایمنی را به عنوان اصل کلیدی حفظ می‌کند.
پژوهش
Red‑Teaming مدل‌های زبان بزرگ: چگونه هوش مصنوعی را امن و اخلاقی کنیم؟
در این مقاله به بررسی روش‌های Red‑Teaming مدل‌های زبان بزرگ می‌پردازیم؛ رویکردهای کنترل خروجی، چالش‌های امنیتی و راهکارهای پیشگیری از سوءاستفاده.
پژوهش
هوش مصنوعی در خطر فیک نیوز: پیش‌بینی تهدیدات و راهکارهای مقابله
OpenAI با دانشگاه جورجتاون و استنفورد بررسی کرد که مدل‌های زبان می‌توانند گسترش اخبار جعلی را تسهیل کنند. شناسایی و راهکارهای برای کاهش خطر است.
محصولات
DALL·E بدون صف انتظار: همین‌جا تصاویر هوش مصنوعی بسازید
OpenAI با ارائه‌ی DALL·E بدون صف انتظار، امکان استفاده فوری از تولید تصاویر هوش مصنوعی را برای کاربران فراهم می‌کند. در این مقاله، تغییرات امنیتی و ویژگی‌های جدید را بررسی می‌کنیم.
محصولات
هوش مصنوعی در ناحیه خصوصی: راهکار جدید جهانی از هگینگ فیس با دسترسی امن
هگینگ فیس با راه‌اندازی Private Hub (اکنون Enterprise Hub) ابزارهای هوش مصنوعی را در محیط امن و انعطاف پذیر برای شرکت‌ها عرضه می‌کند و امکان مدیریت پیشرفته کاربران را فراهم می‌آورد.