پژوهش نوآوری OpenAI: سنجش مقاومت هوش مصنوعی در برابر حملات ناشناخته OpenAI متدی جدید برای سنجش مقاومت شبکه‌های عصبی در برابر حملات خصمانه پیش‌بینی‌نشده معرفی کرده است. متریک UAR کارایی مدل‌ها را در برابر تهدیدات ناگهانی ارزیابی می‌کند. ۳۱ مرداد ۱۳۹۸ ۳ دقیقه پژوهش انتقال استحکام خصمانه بین انواع اختلال؛ پژوهش جدید OpenAI در حوزه هوش مصنوعی پژوهش جدید OpenAI نشان می‌دهد استحکام خصمانه مدل‌های هوش مصنوعی می‌تواند بین انواع مختلف اختلال‌ها انتقال یابد و امنیت مدل‌ها را بهبود بخشد. ۱۳ اردیبهشت ۱۳۹۸ ۲ دقیقه پژوهش هوش مصنوعی و محدودیت‌های محاسباتی در طبقه‌بندی مقاوم؛ نتایج برد-برد پژوهش جدید OpenAI نشان می‌دهد که طبقه‌بندی مقاوم در هوش مصنوعی علی‌رغم محدودیت‌های محاسباتی، می‌تواند نتایج برد-برد به همراه داشته باشد. با این تحلیل همراه شوید. ۱۵ بهمن ۱۳۹۷ ۳ دقیقه پژوهش هوش مصنوعی و امنیت: چگونگی استفاده از مباحثه برای جلوگیری از خطرات مدلی نوین بر پایهٔ مباحثه بین ربات‌های هوش مصنوعی به معرفی الگوریتمی می‌پردازد که با ارزشیابی انسانی برنده نقش‌ بازی می‌کند و هدف آن پیشگیری از خطرات بالقوه و ارتقاء ایمنی سامانه‌های هوش مصنوعی است. ۱۳ اردیبهشت ۱۳۹۷ ۲ دقیقه پژوهش هوش مصنوعی در برابر تهدیدات مخرب: راهکارهای پیشگیری و کنترل OpenAI و همکارانش، مطالعه‌ای منتشر کردند که خطرات مخرب استفاده از هوش مصنوعی را پیش‌بینی و راهکارهای جلوگیری و کاهش آن را بررسی می‌کند. ۱ اسفند ۱۳۹۶ ۲ دقیقه پژوهش چالش جدید هوش مصنوعی: تصاویر خصمانه مقاوم، تهدیدی برای خودران‌ها؟ اوپن‌ای‌آی با ساخت تصاویر خصمانه مقاوم در برابر تغییر مقیاس و زاویه دید، توانایی فریب شبکه‌های عصبی را در شرایط واقعی ثابت کرد و ادعای امنیت خودروهای خودران را به چالش کشید. ۲۶ تیر ۱۳۹۶ ۴ دقیقه پژوهش هوش مصنوعی بر اساس ترجیحات انسان، گام جدیدی به سوی ایمنی و کنترل OpenAI و DeepMind با الگوریتمی نوآورانه، به‌جای هدف ساده، با توجه به ترجیحات انسان، رفتارهای بهینه و ایمن هوش مصنوعی را استخراج می‌کنند. ۲۳ خرداد ۱۳۹۶ ۲ دقیقه پژوهش حملات هوش مصنوعی با نمونه‌های آزاردهنده: چگونه مدل‌های یادگیری ماشین را فریب می‌دهند در این مقاله به بررسی حملات هوش مصنوعی با نمونه‌های آزاردهنده، آثارشان بر مدل‌های یادگیری ماشین و چالش‌های دفاعی پرداخته می‌شود. ۶ اسفند ۱۳۹۵ ۲ دقیقه پژوهش تهدیدات تجاوزی بر سیاست‌های شبکه عصبی: چالش‌های جدید در حوزه هوش مصنوعی OpenAI با گزارش جدید در مورد حملات تجاوزی بر سیاست‌های شبکه‌های عصبی، خطرات و راهکارهای مقابله را بررسی کرده و تأکید بر امنیت سامانه‌های هوش مصنوعی دارد. ۲۰ بهمن ۱۳۹۵ ۲ دقیقه پژوهش هوش مصنوعی: چالش‌های ایمنی واقعی در پژوهش کنکریت و راهکارهای پیشنهادی مقالهٔ تازه Google Brain با همکاران دانشگاه Berkeley و Stanford به بررسی چالش‌های واقعی ایمنی هوش مصنوعی می‌پردازد و راهکارهای عملی برای تضمین عملکرد صحیح مدل‌های یادگیری ماشین بیان می‌کند. ۱ تیر ۱۳۹۵ ۲ دقیقه