پژوهش هوش مصنوعی و مدل‌های زبانی بزرگ: قابلیت‌ها، محدودیت‌ها و تأثیرات اجتماعی گزارش جدید OpenAI درباره قابلیت‌ها و کاستی‌های مدل‌های زبانی بزرگ و تأثیر آنها بر جامعه؛ مروری بر نکات کلیدی و درس‌های مهم برای توسعه‌دهندگان و کاربران هوش مصنوعی. ۱۶ بهمن ۱۳۹۹ ۲ دقیقه مدل‌ها افزایش ۱۰ درصدی سرعت مدل‌های TensorFlow در ترنسفورمرز هوگینگ فیس هوگینگ فیس با بهینه‌سازی مدل BERT در کتابخانه ترنسفورمرز، عملکرد TensorFlow Serving را تا ۱۰ درصد نسبت به پیاده‌سازی رسمی گوگل بهبود بخشید و سرعت را نسبت به نسخه قبلی دو برابر کرد. ۷ بهمن ۱۳۹۹ ۲ دقیقه اخبار مقیاس‌پذیری Kubernetes به ۷۵۰۰ گره؛ زیرساخت هوش مصنوعی OpenAI اوپن‌ای‌آی با مقیاس‌بندی کوبرنیتز به ۷۵۰۰ گره، زیرساختی قدرتمند برای آموزش مدل‌های بزرگ هوش مصنوعی مانند GPT-3 و DALL·E فراهم کرده است. ۶ بهمن ۱۳۹۹ ۲ دقیقه آموزش هوش مصنوعی و بهینه‌سازی حافظه: معرفی ZeRO با DeepSpeed و FairScale با رشد مدل‌های بزرگ، حافظه GPU پاسخگو نیست. ZeRO در DeepSpeed و FairScale راهکاری برای آموزش سریع‌تر و بهینه‌سازی مصرف حافظه است. ۳۰ دی ۱۳۹۹ ۳ دقیقه پژوهش گرم‌آغاز کردن مدل‌های Encoder-Decoder با هوش مصنوعی؛ راهکاری برای بهبود عملکرد در این مقاله از وبلاگ هوما، روش گرم‌آغاز کردن مدل‌های زبانی Encoder-Decoder با استفاده از checkpointهای BERT و GPT2 بررسی می‌شود. این تکنیک در ترجمه ماشینی، خلاصه‌سازی و سایر وظایف seq2seq عملکرد بهتری به ارمغان می‌آورد. ۱۹ آبان ۱۳۹۹ ۳ دقیقه آموزش بهینه‌سازی فراپارامتر در ترنسفورمر با Ray Tune؛ راهنمای عملی با Ray Tune، تنظیم فراپارامتر مدل‌های ترنسفورمر را هوشمندانه انجام دهید و عملکرد مدل را بدون از دست دادن انعطاف‌پذیری بهبود بخشید. ۱۲ آبان ۱۳۹۹ ۲ دقیقه مدل‌ها مدل‌های Encoder-Decoder مبتنی بر ترنسفورمر؛ چگونه هوش مصنوعی متن می‌فهمد؟ در این مقاله به بررسی عمیق معماری ترنسفورمری Encoder-Decoder می‌پردازیم؛ مدلی که پایه‌گذار نسل جدید سیستم‌های هوش مصنوعی در پردازش زبان طبیعی و تولید محتوا است. ۱۹ مهر ۱۳۹۹ ۲ دقیقه مدل‌ها بهینه‌سازی مدل‌های زبانی با ماتریس‌های اسپارس بلوکی در هوش مصنوعی آشنایی با pytorch_block_sparse، ابزار جدید Hugging Face برای کاهش حجم و افزایش سرعت مدل‌های زبانی با بهره‌گیری از ماتریس‌های اسپارس بلوکی. ۲۰ شهریور ۱۳۹۹ ۲ دقیقه پژوهش آموزش مدل‌های هوش مصنوعی برای خلاصه‌سازی بهتر با بازخورد انسانی OpenAI با استفاده از یادگیری تقویتی از بازخورد انسانی، مدل‌های زبانی را برای خلاصه‌سازی دقیق‌تر و باکیفیت‌تر آموزش داده است. این روش نتایج بهتری دارد. ۱۴ شهریور ۱۳۹۹ ۲ دقیقه اخبار رونمایی OpenAI از API جدید برای دسترسی به مدل‌های پیشرفته هوش مصنوعی OpenAI API اختصاصی خود را برای مدل‌های جدید هوش مصنوعی منتشر کرد. این امکان، مسیر تازه‌ای برای توسعه‌دهندگان و کسب‌وکارها به منظور بهره‌گیری از قابلیت‌های پیشرفته فراهم می‌سازد. ۲۲ خرداد ۱۳۹۹ ۲ دقیقه