مدل‌ها هوش مصنوعی و Reformer: پردازش دنباله‌های نیم میلیون توکنی با ۸ گیگابایت مدل Reformer با مصرف تنها ۸ گیگابایت حافظه، نیم میلیون توکن را آموزش می‌بیند و برای پردازش دنباله‌های طولانی کارآمد است. در این مقاله بررسی می‌شود. ۱۳ تیر ۱۳۹۹ ۲ دقیقه اخبار رونمایی OpenAI از API جدید برای دسترسی به مدل‌های پیشرفته هوش مصنوعی OpenAI API اختصاصی خود را برای مدل‌های جدید هوش مصنوعی منتشر کرد. این امکان، مسیر تازه‌ای برای توسعه‌دهندگان و کسب‌وکارها به منظور بهره‌گیری از قابلیت‌های پیشرفته فراهم می‌سازد. ۲۲ خرداد ۱۳۹۹ ۲ دقیقه پژوهش آموزش کم‌نمونه در هوش مصنوعی: معرفی GPT-3 و یادگیری چند نمونه‌ای مقاله‌ای درباره GPT-3 و مفهوم few-shot learning که نشان می‌دهد مدل‌های زبانی بزرگ چگونه با چند مثال، وظایف متنوع را بدون آموزش مجدد یاد می‌گیرند. ۸ خرداد ۱۳۹۹ ۲ دقیقه پژوهش پیشرفت الگوریتم‌ها؛ کاهش ۴۴ برابری نیاز محاسباتی هوش مصنوعی تحلیل جدید OpenAI نشان می‌دهد پیشرفت الگوریتم‌ها هر ۱۶ ماه نیاز محاسباتی مدل‌های هوش مصنوعی را نصف می‌کند و ۴۴ برابر کمتر از ۲۰۱۲ انرژی لازم است. ۱۶ اردیبهشت ۱۳۹۹ ۲ دقیقه مدل‌ها هوش مصنوعی جعبه موسیقی: نوآوری جدید OpenAI در تولید آهنگ OpenAI از شبکه عصبی Jukebox رونمایی کرد که با هوش مصنوعی موسیقی خام و آواز ابتدایی در سبک‌ها و حال‌وهوای هنرمندان تولید می‌کند. کد و وزن‌های مدل منتشر شد. ۱۱ اردیبهشت ۱۳۹۹ ۲ دقیقه پژوهش OpenAI Microscope: هوش مصنوعی را شفاف‌تر از همیشه ببینید OpenAI از میکروسکوپ خود رونمایی کرد؛ مجموعه‌ای از تصویرسازی‌ها برای بررسی لایه‌ها و نورون‌های هشت مدل بینایی که به تفسیرپذیری هوش مصنوعی کمک می‌کند. ۲۶ فروردین ۱۳۹۹ ۳ دقیقه آموزش تولید متن با هوش مصنوعی: بررسی روش‌های Decoding در مدل‌های زبانی در این مقاله از وبلاگ هوما، روش‌های مختلف تولید متن با مدل‌های زبانی مانند جستجوی حریصانه، beam search، sampling و top-p را بررسی می‌کنیم و نحوه پیاده‌سازی آن‌ها را با کتابخانه transformers یاد می‌گیریم. ۱۱ اسفند ۱۳۹۸ ۳ دقیقه آموزش آموزش مدل زبانی از صفر با Transformers و Tokenizers در Hugging Face در این مقاله یاد می‌گیرید چگونه با کتابخانه‌های Transformers و Tokenizers یک مدل زبانی اختصاصی از صفر آموزش دهید و آن را برای وظایف پایین‌دستی بهینه کنید. ۲۵ بهمن ۱۳۹۸ ۳ دقیقه اخبار اوپن‌ای‌آی پایتورچ را استاندارد کرد؛ تحولی در توسعه هوش مصنوعی اوپن‌ای‌آی با استانداردسازی فریم‌ورک یادگیری عمیق خود روی پایتورچ، مسیر توسعه مدل‌های هوش مصنوعی را هموارتر کرد. این تصمیم چه تأثیری بر آینده دارد؟ ۱۰ بهمن ۱۳۹۸ ۲ دقیقه پژوهش قوانین مقیاس‌پذیری مدل‌های زبانی؛ راز پیشرفت هوش مصنوعی تحقیقات OpenAI نشان می‌دهد عملکرد مدل‌های زبانی با افزایش داده، پارامترها و توان محاسباتی به شکلی قابل پیش‌بینی بهبود می‌یابد. این مقاله به بررسی این قوانین و پیامدهای آن برای آینده هوش مصنوعی می‌پردازد. ۳ بهمن ۱۳۹۸ ۳ دقیقه