سختافزار
ZeroGPU و کمپایل پیکزمان: سرعتبخش بزرگ برای هوش مصنوعی در هابهای هاجینگ فیس
ZeroGPU و کمپایل پیکزمان در PyTorch، تکنولوژی پیشکامپایل برای یافتن حداکثر کارایی در هاجینگ فیس، سرعت بالا و بهرهوری GPU را امکانپذیر میسازد.
پژوهش
هوش مصنوعی در سفینهٔ Multi‑GPU با راهنمای Accelarate ND‑Parallel
افزایش سرعت و کارایی آموزش مدلهای بزرگ هوش مصنوعی با استفاده از ترکیب چندین شیوهٔ موازیسازی، بهوسیلهٔ کتابخانهٔ Accelerate ND‑Parallel.
محصولات
چگونه NVIDIA NIM سهلسازی میکند انتشار سریع LLM ها بر روی HuggingFace
بهروزرسانی جدید NVIDIA NIM در Hugging Face، امکان استقرار سریع 100,000+ مدل LLM را با یک میکروسرویس در یک کانتینر داکر فراهم میکند.
پژوهش
هوش مصنوعی: راهحلی پیشرفته برای پردازش دادههای چندرسانهای برای آموزش و تولید متن
در این مطلب به معرفی پنج مرحلهٔ بهینه برای ساخت پایپلاین داده چندرسانهای در Hugging Face میپردازیم و تاثیر آن بر کاهش مصرف GPU و هزینه را بررسی میکنیم.
مدلها
هوش مصنوعی در دسترس همه: آموزش LoRA بر روی سختافزار خانگی FLUX.1-dev
دانشنامهٔ هوش مصنوعی: راهنمای گام به گام برای اجرای Fine‑Tuning مدل FLUX.1-dev با LoRA روی سختافزارهای خانگی و گوگل کولاب، بدون نیاز به GPU قدرتمند.
پژوهش
هوش مصنوعی: چگونه پرامپتهای طولانی صفهای پیشبینی را مسدود میکنند
در این مقاله به بررسی چالشهای پرامپتهای طولانی در مدلهای زبان بزرگ و راهحلهای پیشنهادی برای بهبود تأخیر و کارایی پرداختهایم.
مدلها
فِیترلس AI: جدیداً ارائهدهنده هوش مصنوعی بدون سرور در هاجینگ فیس
فِیترلس AI بهعنوان ارائهدهنده بدون سرور در هاجینگ فیس معرفی شد؛ گامی مهم در گسترش دسترسی سریع، جامع و مقرونبهصرفه به مدلهای متن و گفتار.
محصولات
هوش مصنوعی: هاب کرنل هرفیگ، راهحل سریع بهینهسازی مدلهای یادگیری
در این مقاله به بررسی هاب کرنل هرفیگ میپردازیم؛ ابزار جدیدی برای دانلود و اجرای کرنلهای محاسباتی بهینه بر روی GPU، که عملکرد مدلهای هوش مصنوعی را در چند دقیقه بهبود میدهد.