مدل‌ها هوش مصنوعی BigBird: راهکاری نوین برای پردازش متن‌های طولانی مدل BigBird با بهره‌گیری از توجه پراکنده بلوکی، پردازش متن‌های طولانی را در هوش مصنوعی ممکن کرده است. این مدل در خلاصه‌سازی و پرسش و پاسخ عملکرد برجسته‌ای دارد. ۱۱ فروردین ۱۴۰۰ ۳ دقیقه آموزش استقرار پایپلاین هوش مصنوعی ترنسفورمرز روی Google Cloud بدون سرور در این مقاله تجربه استقرار یک پایپلاین تحلیل احساسات با ترنسفورمرز و Google Cloud را می‌خوانید؛ از انتخاب سرویس مناسب تا هزینه‌ها و عملکرد. ۲۸ اسفند ۱۳۹۹ ۳ دقیقه مدل‌ها افزایش ۱۰ درصدی سرعت مدل‌های TensorFlow در ترنسفورمرز هوگینگ فیس هوگینگ فیس با بهینه‌سازی مدل BERT در کتابخانه ترنسفورمرز، عملکرد TensorFlow Serving را تا ۱۰ درصد نسبت به پیاده‌سازی رسمی گوگل بهبود بخشید و سرعت را نسبت به نسخه قبلی دو برابر کرد. ۷ بهمن ۱۳۹۹ ۲ دقیقه پژوهش گرم‌آغاز کردن مدل‌های Encoder-Decoder با هوش مصنوعی؛ راهکاری برای بهبود عملکرد در این مقاله از وبلاگ هوما، روش گرم‌آغاز کردن مدل‌های زبانی Encoder-Decoder با استفاده از checkpointهای BERT و GPT2 بررسی می‌شود. این تکنیک در ترجمه ماشینی، خلاصه‌سازی و سایر وظایف seq2seq عملکرد بهتری به ارمغان می‌آورد. ۱۹ آبان ۱۳۹۹ ۳ دقیقه آموزش بهینه‌سازی فراپارامتر در ترنسفورمر با Ray Tune؛ راهنمای عملی با Ray Tune، تنظیم فراپارامتر مدل‌های ترنسفورمر را هوشمندانه انجام دهید و عملکرد مدل را بدون از دست دادن انعطاف‌پذیری بهبود بخشید. ۱۲ آبان ۱۳۹۹ ۲ دقیقه پژوهش قوانین مقیاس‌پذیری مدل‌های زبانی؛ راز پیشرفت هوش مصنوعی تحقیقات OpenAI نشان می‌دهد عملکرد مدل‌های زبانی با افزایش داده، پارامترها و توان محاسباتی به شکلی قابل پیش‌بینی بهبود می‌یابد. این مقاله به بررسی این قوانین و پیامدهای آن برای آینده هوش مصنوعی می‌پردازد. ۳ بهمن ۱۳۹۸ ۳ دقیقه پژوهش هوش مصنوعی و پدیده دابل دسانت؛ راز افت و خیز دوباره مدل‌ها پژوهش جدید OpenAI نشان می‌دهد عملکرد مدل‌های هوش مصنوعی با بزرگ‌تر شدن، ابتدا بهبود، سپس افت، و دوباره بهبود می‌یابد. این پدیده «دابل دسانت» نام دارد. ۱۴ آذر ۱۳۹۸ ۲ دقیقه پژوهش هوش مصنوعی با کنجکاوی از انسان در بازی Montezuma's Revenge جلو زد روش جدید تقویت یادگیری با پاداش مبتنی بر پیش‌بینی (RND) به عامل هوش مصنوعی امکان می‌دهد با کنجکاوی محیط را کشف کند و برای نخستین بار از میانگین عملکرد انسانی در بازی Montezuma's Revenge فراتر رود. ۹ آبان ۱۳۹۷ ۳ دقیقه پژوهش هوش مصنوعی در قالب Reptile: الگوریتم میکرو یادگیری ساده و مقیاس‌پذیر Reptile یک الگوریتم مبتنی بر متا یادگیری است که با استفاده از گرادیان تصادفی و به‌روزرسانی پارامتر اولیه، عملکرد مشابه MAML را با کارایی بهبود یافته ارائه می‌دهد. ۱۶ اسفند ۱۳۹۶ ۲ دقیقه پژوهش شفافیت در هوش مصنوعی: مثال‌های قابل تفسیر و آموزشی OpenAI OpenAI با معرفی مثال‌های قابل تفسیر و آموزشی، گام مهمی در جهت افزایش شفافیت و درک عمیق‌تر عملکرد مدل‌های پیچیده هوش مصنوعی برداشته است. این رویکرد به کاربران کمک می‌کند تا تصمیم‌گیری‌های AI را بهتر بفهمند و به آن اعتماد کنند. ۱۱ آبان ۱۳۹۶ ۳ دقیقه