پژوهش
هوش مصنوعی و امنیت: چگونگی استفاده از مباحثه برای جلوگیری از خطرات
مدلی نوین بر پایهٔ مباحثه بین ربات‌های هوش مصنوعی به معرفی الگوریتمی می‌پردازد که با ارزشیابی انسانی برنده نقش بازی می‌کند و هدف آن پیشگیری از خطرات بالقوه و ارتقاء ایمنی سامانه‌های هوش مصنوعی است.
پژوهش
هوش مصنوعی در برابر تهدیدات مخرب: راهکارهای پیشگیری و کنترل
OpenAI و همکارانش، مطالعه‌ای منتشر کردند که خطرات مخرب استفاده از هوش مصنوعی را پیش‌بینی و راهکارهای جلوگیری و کاهش آن را بررسی می‌کند.
پژوهش
تهدیدات تجاوزی بر سیاست‌های شبکه عصبی: چالش‌های جدید در حوزه هوش مصنوعی
OpenAI با گزارش جدید در مورد حملات تجاوزی بر سیاست‌های شبکه‌های عصبی، خطرات و راهکارهای مقابله را بررسی کرده و تأکید بر امنیت سامانه‌های هوش مصنوعی دارد.
پژوهش
هوش مصنوعی: ارزیابی خطراتی از توابع پاداش نادرست در یادگیری تقویتی
در این مقاله به بررسی عواقب استفاده از توابع پاداش نادرست در الگوریتم‌های یادگیری تقویتی می‌پردازیم و نکات کلیدی برای طراحی صحیح آن را ارائه می‌کنیم.