آموزش هوش مصنوعی و بهینه‌سازی حافظه: معرفی ZeRO با DeepSpeed و FairScale با رشد مدل‌های بزرگ، حافظه GPU پاسخگو نیست. ZeRO در DeepSpeed و FairScale راهکاری برای آموزش سریع‌تر و بهینه‌سازی مصرف حافظه است. ۳۰ دی ۱۳۹۹ ۳ دقیقه پژوهش گرم‌آغاز کردن مدل‌های Encoder-Decoder با هوش مصنوعی؛ راهکاری برای بهبود عملکرد در این مقاله از وبلاگ هوما، روش گرم‌آغاز کردن مدل‌های زبانی Encoder-Decoder با استفاده از checkpointهای BERT و GPT2 بررسی می‌شود. این تکنیک در ترجمه ماشینی، خلاصه‌سازی و سایر وظایف seq2seq عملکرد بهتری به ارمغان می‌آورد. ۱۹ آبان ۱۳۹۹ ۳ دقیقه آموزش بهینه‌سازی فراپارامتر در ترنسفورمر با Ray Tune؛ راهنمای عملی با Ray Tune، تنظیم فراپارامتر مدل‌های ترنسفورمر را هوشمندانه انجام دهید و عملکرد مدل را بدون از دست دادن انعطاف‌پذیری بهبود بخشید. ۱۲ آبان ۱۳۹۹ ۲ دقیقه مدل‌ها مدل‌های Encoder-Decoder مبتنی بر ترنسفورمر؛ چگونه هوش مصنوعی متن می‌فهمد؟ در این مقاله به بررسی عمیق معماری ترنسفورمری Encoder-Decoder می‌پردازیم؛ مدلی که پایه‌گذار نسل جدید سیستم‌های هوش مصنوعی در پردازش زبان طبیعی و تولید محتوا است. ۱۹ مهر ۱۳۹۹ ۲ دقیقه مدل‌ها بهینه‌سازی مدل‌های زبانی با ماتریس‌های اسپارس بلوکی در هوش مصنوعی آشنایی با pytorch_block_sparse، ابزار جدید Hugging Face برای کاهش حجم و افزایش سرعت مدل‌های زبانی با بهره‌گیری از ماتریس‌های اسپارس بلوکی. ۲۰ شهریور ۱۳۹۹ ۲ دقیقه پژوهش آموزش مدل‌های هوش مصنوعی برای خلاصه‌سازی بهتر با بازخورد انسانی OpenAI با استفاده از یادگیری تقویتی از بازخورد انسانی، مدل‌های زبانی را برای خلاصه‌سازی دقیق‌تر و باکیفیت‌تر آموزش داده است. این روش نتایج بهتری دارد. ۱۴ شهریور ۱۳۹۹ ۲ دقیقه اخبار رونمایی OpenAI از API جدید برای دسترسی به مدل‌های پیشرفته هوش مصنوعی OpenAI API اختصاصی خود را برای مدل‌های جدید هوش مصنوعی منتشر کرد. این امکان، مسیر تازه‌ای برای توسعه‌دهندگان و کسب‌وکارها به منظور بهره‌گیری از قابلیت‌های پیشرفته فراهم می‌سازد. ۲۲ خرداد ۱۳۹۹ ۲ دقیقه پژوهش آموزش کم‌نمونه در هوش مصنوعی: معرفی GPT-3 و یادگیری چند نمونه‌ای مقاله‌ای درباره GPT-3 و مفهوم few-shot learning که نشان می‌دهد مدل‌های زبانی بزرگ چگونه با چند مثال، وظایف متنوع را بدون آموزش مجدد یاد می‌گیرند. ۸ خرداد ۱۳۹۹ ۲ دقیقه پژوهش پیشرفت الگوریتم‌ها؛ کاهش ۴۴ برابری نیاز محاسباتی هوش مصنوعی تحلیل جدید OpenAI نشان می‌دهد پیشرفت الگوریتم‌ها هر ۱۶ ماه نیاز محاسباتی مدل‌های هوش مصنوعی را نصف می‌کند و ۴۴ برابر کمتر از ۲۰۱۲ انرژی لازم است. ۱۶ اردیبهشت ۱۳۹۹ ۲ دقیقه آموزش تولید متن با هوش مصنوعی: بررسی روش‌های Decoding در مدل‌های زبانی در این مقاله از وبلاگ هوما، روش‌های مختلف تولید متن با مدل‌های زبانی مانند جستجوی حریصانه، beam search، sampling و top-p را بررسی می‌کنیم و نحوه پیاده‌سازی آن‌ها را با کتابخانه transformers یاد می‌گیریم. ۱۱ اسفند ۱۳۹۸ ۳ دقیقه