اخبار
نقشه‌برداری از مقاومت در برابر هوش مصنوعی: نگرانی‌ها و چالش‌ها
مقاومت علیه هوش مصنوعی در سراسر جهان رو به گسترش است؛ از اعتراضات کارگری تا نگرانی‌های اخلاقی، نهادها و مردم در برابر گسترش این فناوری ایستاده‌اند.
پژوهش
هوش مصنوعی GPT-Red؛ سامانه خودبه‌خودی افزایش ایمنی و مقاومت OpenAI
OpenAI سامانه جدید GPT-Red را معرفی کرد که با بازیگری خودکار، ایمنی، هم‌راستایی و مقاومت هوش مصنوعی در برابر حملات را ارتقا می‌دهد.
پژوهش
نبرد با حملات انسانی: سنجش مقاومت هوش مصنوعی با رهبر جدید
رهبر تازه انتشار یافته Red-Teaming Resistance به بررسی مقاومت مدل‌های زبانی در برابر حملات واقع‌گرایانه می‌پردازد و نویدبخش توسعه مسئولانه هوش مصنوعی است.
پژوهش
نوآوری OpenAI: سنجش مقاومت هوش مصنوعی در برابر حملات ناشناخته
OpenAI متدی جدید برای سنجش مقاومت شبکه‌های عصبی در برابر حملات خصمانه پیش‌بینی‌نشده معرفی کرده است. متریک UAR کارایی مدل‌ها را در برابر تهدیدات ناگهانی ارزیابی می‌کند.