پژوهش ThinkingBox: تبدیل ارزیابی پایگاه داده در هوش مصنوعی به پاداش تقویتی Microsoft با فرایند ThinkingBox، نتایج پایگاه داده را به سیگنال پاداش تبدیل می‌کند و عملکرد این‌سایندهای RL را به‌صورت قابل‌تبادل در بهبود مدل‌ها ارتقا می‌دهد. ۱ آبان ۱۴۰۵ ۲ دقیقه کسب‌وکار Meta سهم جدیدی را برای رشد هوش مصنوعی ایجاد کرده: جزئیات سرمایه‌گذاری Meta با انتشار سهم‌های غیرتصویسی، سرمایه‌گذاری در حوزه هوش مصنوعی، خرید فناوری و پاداش کارکنان را اعلام کرد؛ این اقدام از ابتدای 2027 فعال می‌شود. ۳۰ مهر ۱۴۰۵ ۲ دقیقه اخبار طغیان گزارش‌های نامعتبر هوش مصنوعی و توقف برنامه شکار باگ گوگل! گوگل به‌دلیل افزایش چشمگیر گزارش‌های نامعتبر تولیدشده با هوش مصنوعی، برنامه‌ی پاداش کشف باگ پروژه‌های متن‌باز را متوقف کرد. ۱۳ مهر ۱۴۰۵ ۲ دقیقه کسب‌وکار گوگل به دلیل «افزایش قابل توجه» درخواست‌های هوش مصنوعی، برنامه‌ی پاداش در ازای اشکال متن‌باز خود را متوقف کرد. به نظر می‌رسد که هوش مصنوعی، برنامه‌های پاداش در ازای اشکال را به شدت تحت الشعاع قرار داده است. ۱۳ مهر ۱۴۰۵ ۲ دقیقه مدل‌ها معرفی برنامه پاداش در ازای اشکال ایمنی OpenAI OpenAI یک برنامه پاداش در ازای اشکال امنیتی راه‌اندازی می‌کند تا سوءاستفاده از هوش مصنوعی و خطرات ایمنی، از جمله آسیب‌پذیری‌های عامل‌دار، تزریق سریع و استخراج ۵ فروردین ۱۴۰۵ ۲ دقیقه پژوهش هوش مصنوعی ایمن‌تر: روش نوین پاداش‌های مبتنی بر قواعد در OpenAI شرکت OpenAI روش جدیدی به نام پاداش‌های مبتنی بر قواعد را معرفی کرد تا رفتار ایمن مدل‌های زبانی را بدون نیاز به داده‌های انسانی گسترده بهبود بخشد. ۳ مرداد ۱۴۰۳ ۲ دقیقه پژوهش هوش مصنوعی با نظارت بر فرآیند استدلال، ریاضیات را بهتر حل می‌کند OpenAI با روش «نظارت بر فرآیند» به جای پاداش‌دهی به پاسخ نهایی، مدلی آموزش داده که در حل مسائل ریاضی به دقت بی‌سابقه‌ای رسیده و قابلیت هم‌راستایی با انسان را بهبود می‌بخشد. ۱۰ خرداد ۱۴۰۲ ۲ دقیقه پژوهش هوش مصنوعی: محدودیت های شناسایی بیش از حد مدل پاداش در آموزش RLHF قانون مقیاس در هوش مصنوعی نشان می‌دهد که بیشینه‌سازی مدل‌های پاداش می‌تواند کارایی را کاهش دهد. این مقاله به بررسی چالش‌ها و راهکارهای کاهش این ناهماهنگی می‌پردازد. ۲۷ مهر ۱۴۰۱ ۲ دقیقه پژوهش هوش مصنوعی با کنجکاوی از انسان در بازی Montezuma's Revenge جلو زد روش جدید تقویت یادگیری با پاداش مبتنی بر پیش‌بینی (RND) به عامل هوش مصنوعی امکان می‌دهد با کنجکاوی محیط را کشف کند و برای نخستین بار از میانگین عملکرد انسانی در بازی Montezuma's Revenge فراتر رود. ۹ آبان ۱۳۹۷ ۳ دقیقه پژوهش انقلاب در آموزش هوش مصنوعی: بازخورد انسانی، راهی به سوی ایمنی OpenAI با معرفی RL-Teacher، رویکردی نوین برای آموزش هوش مصنوعی ارائه کرده است. این روش با تکیه بر بازخورد انسانی، امکان توسعه سیستم‌های ایمن‌تر و حل مسائل پیچیده یادگیری تقویتی را فراهم می‌کند. ۱۲ مرداد ۱۳۹۶ ۳ دقیقه