مدلها
هوش مصنوعی و Mixture of Experts: چگونگی تغییر پردازش زبان
Mixture of Experts (MoE) به عنوانفرایندهای ترکیبی پیشرفته، با کاهش مصرف حافظه و افزایش سرعت، آیندهٔ مدلهای زبانی را شکل میدهد. مقایسه با مدلهای چگال، چالشها، نواحی استفاده و راهکارهای بهینهسازی را بررسی میکنیم.
محصولات
هوش مصنوعی: Optimum‑NVIDIA بر روی پردازندههای NVIDIA عملکرد 28× سریعتر ارائه میدهد
Optimum‑NVIDIA، کتابخانهای ساده از هاب هگینگ فیس، عملکرد مدلهای زبان بزرگ را روی GPUهای NVIDIA تا 28 برابر سرعت میدهد و از فرمت FP8 بهره میبرد.
مدلها
پیشرفت هوش مصنوعی: تلاش برای بهینهسازی ساده SDXL جهت سرعت و حافظه
یادآورترین نکات بهینهسازی ساده SDXL، مدل پیشرفته تولید تصویر هوش مصنوعی، با تأکید بر سرعت، حافظه و کارایی در مقالهٔ تازه ما.
پژوهش
همینگ فیس و ONNX Runtime: ۱۳۰,۰۰۰ مدل هوش مصنوعی را دو برنده میکنیم
در این مقاله به بررسی راهکار ONNX Runtime میپردازیم که از طریق آن میتوان بیش از ۱۳۰،۰۰۰ مدلّی Hugging Face را بهینهسازی و سرعت بخشی کرد. این نوآوری، گام مهمی در ارائهٔ دسترسی به هوش مصنوعی در سطح جهان است.
سختافزار
هوش مصنوعی بر روی Cloud TPU v5e: سرعتبخشی SDXL با JAX
کشف روش جدیدی برای پردازش مدل Stable Diffusion XL با بهرهگیری از JAX بر روی Google Cloud TPU v5e؛ بهبود کارایی، کاهش هزینه و افزایش سرعت تولید تصویر عالی در شرایط واقعی.
اخبار
اهمیت هوش مصنوعی در مقیاسپذیری مدلهای مالی با Rocket Money و Hugging Face
چطور Rocket Money با همکاری Hugging Face به مقیاسپذیری مدلهای مالی دست یافت و با شناسایی معاملات، بهینهسازی هزینهها را بهبود بخشید؟
پژوهش
هوش مصنوعی در عمل: روشهای بهینهسازی مدلهای زبان بزرگ
با بهرهگیری از تکنیکهای Flash Attention، حافظهی مبتنی بر کلید-مقدار و بهبود جاسازهای موقعیتی، مدلهای زبان بزرگ را میتوان در محیطهای تولیدی بهینهتر استفاده کرد.
پژوهش
هوش مصنوعی: خوشگذرینه تخصیص منابع برای fine-tuning Llama 2 70B در پایتورچ
Fine‑tuning مدل Llama‑2 70B را با PyTorch FSDP در هستهٔ هوش مصنوعی هدفگذاری کردهایم. از طریق واریسهای سفارشی، چالشهای سختافزاری و الگوریتمهای تقسیم پارامترها بهصورت دقیق در SLURM، بهحرفهای مدل را آموزش میدهیم.
مدلها
هوش مصنوعی: معرفی Würstchen، مدل تولید تصویر بسیار سریع و نوآور
Würstchen، مدل جدید انتشار دادهها، با فشردهسازی ۴۲ برابر، امکان تولید تصاویر با کیفیت بالا در ثانیههای کمی را فراهم میکند، بهعلاوه در فریمورک Diffusers به آسانی یکپارچه میشود.