محصولات
هوش مصنوعی در دسترس: Accelerate مدلهای عظیم را بر روی Colab اجرا میکند
Accelerate ابزارنگاری شده توسط Hugging Face میتواند مدلهای بزرگ زبان را بر روی سختافزار محدود مثل Colab اجرا کند. این راهکار منجر به دموکراتیزهسازی هوش مصنوعی شد.
پژوهش
هوش مصنوعی پرسرعت: روش شگفتانگیز اجرای مدل BLOOM با DeepSpeed و Accelerate
در این مقاله، به بررسی روش سریع و کارآمد اجرای مدل بزرگ BLOOM با استفاده از DeepSpeed و Accelerate میپردازیم، نکات ایجادی، سختافزار و راهکارهای عملی.
سختافزار
Intel و Hugging Face شتاب بردند شتاب سختافزاری هوش مصنوعی برای همه
هنوز که مدلهای تبدیلکننده دگرگون میشوند، همکاری میان Intel و Hugging Face ابزار جدیدی برای شتابدهی و کاهش تاخیر در پردازشی هوش مصنوعی ارائه میدهد. این همکاری بهوسیله کتابخانه Optimum در دسترس قرار گرفته است.
مدلها
هوش مصنوعی در مقیاس بزرگ: PyTorch FSDP و Accelerate برای تسریع آموزش مدلهای عظیم
PyTorch FSDP با کتابخانه Accelerate موجب تسریع آموزش مدلهای عظیم میشود؛ بدون تغییر در کد، به راحتی مقیاس معادل Multi‑GPU و یادگیری بهسختافزار دست یابید.
پژوهش
هوش مصنوعی در دسترس: معرفی Optimum، ابزار بهینهسازی ترنسفورمرها
Optimum، کتابخانهٔ متنباز Hugging Face، بهوسیلهٔ تکنیکهای کمیتسازی و بهینهسازی، اجرای سریع و مقرون به صرفه ترنسفورمرها را در سختافزارهای مختلف امکانپذیر میسازد.