پژوهش
هوش مصنوعی پرسرعت: روش شگفتانگیز اجرای مدل BLOOM با DeepSpeed و Accelerate
در این مقاله، به بررسی روش سریع و کارآمد اجرای مدل بزرگ BLOOM با استفاده از DeepSpeed و Accelerate میپردازیم، نکات ایجادی، سختافزار و راهکارهای عملی.
پژوهش
هوش مصنوعی سریعتر؛ Optimum و Pipelineهای Transformers با ONNX
در این مقاله، بررسی میشود چطور با Optimum و ONNX Runtime میتوان اجرای مدلهای Transformer را تسریع کرد؛ تبدیل، بهینهسازی، فشردهسازی و بررسی عملکرد.
آموزش
تجربهٔ هوش مصنوعی با Optimum و IPU Graphcore – راهنمای شروع برای مبتدیان
مقاله حاضر، گامهای اصلی جهت اجرای مدلهای Transformer بر روی IPU Graphcore با Optimum را توضیح میدهد، تا سرعت پیشبینی و کارایی هوش مصنوعی را بهینه کنیم.
سختافزار
همکاری هوش مصنوعی: Hugging Face و Graphcore برای تسریع ترنسفورمرها با IPU
پلتفرم جدید Graphcore IPU در همکاری با Hugging Face سرعت اجرای مدلهای ترنسفورمر پیشرفته را بدون کدنویسی پیچیده، در مقیاس تولید، افزایش داده و به توسعهدهندگان امکان میدهد بهسرعت مدلهای برتر را مستقر کنند.
سختافزار
راهنمای بهینهسازی هوش مصنوعی: افزایش کارایی مدل BERT روی CPU
در دنیای هوش مصنوعی، اجرای مدلهای زبانی روی CPU نیازمند بهینهسازی است. این مقاله از Hugging Face روشهای افزایش توان عملیاتی و کاهش تأخیر را بررسی میکند.