اخبار
هشدار زودهنگام برای سوءاستفاده زیستی از هوش مصنوعی؛ گامی از OpenAI
ارزیابی جدید OpenAI با مشارکت متخصصان و دانشجویان زیست‌شناسی نشان می‌دهد که GPT-4 تنها بهبودی جزئی در دقت ساخت تهدیدات زیستی ایجاد می‌کند؛ یافته‌ای که به عنوان نقطه شروع تحقیقات بیشتر مطرح شده است.
اخبار
برنامه کمک‌هزینه امنیت سایبری OpenAI؛ هوش مصنوعی در خدمت مدافعان
OpenAI برنامه‌ای برای ارائه کمک‌هزینه به توسعه‌دهندگان راهکارهای امنیت سایبری مبتنی بر هوش مصنوعی آغاز کرده است؛ هدف: تقویت توان مدافعان در برابر تهدیدها.
پژوهش
هوش مصنوعی در خطر فیک نیوز: پیش‌بینی تهدیدات و راهکارهای مقابله
OpenAI با دانشگاه جورجتاون و استنفورد بررسی کرد که مدل‌های زبان می‌توانند گسترش اخبار جعلی را تسهیل کنند. شناسایی و راهکارهای برای کاهش خطر است.
پژوهش
نوآوری OpenAI: سنجش مقاومت هوش مصنوعی در برابر حملات ناشناخته
OpenAI متدی جدید برای سنجش مقاومت شبکه‌های عصبی در برابر حملات خصمانه پیش‌بینی‌نشده معرفی کرده است. متریک UAR کارایی مدل‌ها را در برابر تهدیدات ناگهانی ارزیابی می‌کند.
پژوهش
هوش مصنوعی در برابر تهدیدات مخرب: راهکارهای پیشگیری و کنترل
OpenAI و همکارانش، مطالعه‌ای منتشر کردند که خطرات مخرب استفاده از هوش مصنوعی را پیش‌بینی و راهکارهای جلوگیری و کاهش آن را بررسی می‌کند.
پژوهش
چالش جدید هوش مصنوعی: تصاویر خصمانه مقاوم، تهدیدی برای خودران‌ها؟
اوپن‌ای‌آی با ساخت تصاویر خصمانه مقاوم در برابر تغییر مقیاس و زاویه دید، توانایی فریب شبکه‌های عصبی را در شرایط واقعی ثابت کرد و ادعای امنیت خودروهای خودران را به چالش کشید.
پژوهش
حملات هوش مصنوعی با نمونه‌های آزاردهنده: چگونه مدل‌های یادگیری ماشین را فریب می‌دهند
در این مقاله به بررسی حملات هوش مصنوعی با نمونه‌های آزاردهنده، آثارشان بر مدل‌های یادگیری ماشین و چالش‌های دفاعی پرداخته می‌شود.
پژوهش
تهدیدات تجاوزی بر سیاست‌های شبکه عصبی: چالش‌های جدید در حوزه هوش مصنوعی
OpenAI با گزارش جدید در مورد حملات تجاوزی بر سیاست‌های شبکه‌های عصبی، خطرات و راهکارهای مقابله را بررسی کرده و تأکید بر امنیت سامانه‌های هوش مصنوعی دارد.