پژوهش
نحوه دو بار سریعتر کردن آموزش مدلهای LLM با Unsloth و 🤗 TRL در دنیای هوش مصنوعی
Unsloth، کتابخانهٔ سبکوزن همراه با 🤗 TRL، عکسالعمل دو مراتبهٔ سریعتر آموزش LLM را با کاهش مصرف حافظهٔ ۴۰٪ و بدون افت دقت ارائه میدهد؛ برای علاقهمندان به هوش مصنوعی بخوبی عمل میکند.
اخبار
همکاری دیتابریکس و هاگینگ فیس: آموزش مدلهای هوش مصنوعی تا ۴۰٪ سریعتر
دیتابریکس با افزودن پشتیبانی درجهیک اسپارک به هاگینگ فیس، آموزش و تنظیم مدلهای زبانی هوش مصنوعی را تا ۴۰ درصد سریعتر کرده و کد آن را متنباز منتشر میکند.
پژوهش
هوش مصنوعی در آموزش Diffusion: روش LoRA برای بهینهسازی ثبات تصویر
فنی ترین روشهای بهینهسازی مدلهای بزرگ هوش مصنوعی، LoRA، به کمک فناوری Stable Diffusion، شفاف و سریعتر امکان آموزش مدلها را فراهم میکند.
پژوهش
سرعت آموزش مدلهای هوش مصنوعی ۳۵% سریعتر با Optimum+ONNX Runtime
حکیمیترین مدلهای هوش مصنوعی با تمهیدات Optimum و ONNX Runtime، در مدت زمان کمتر از قبل به دقت و سرعت بیشتری آموزش مییابند. ایدههای جدید در این حوزه در آینده نزدیک چالشهای بزرگی را حل میکنند.
پژوهش
TAPEX: پیشآموزشی هوشمند بر روی جدولها بدون داده واقعی
تشریح دستاویزی TAPEX که در آن پیشآموزش مدلهای هوش مصنوعی بر روی جدولها بدون نیاز به داده واقعی انجام میشود، نشان میدهد ویرایش الگوریتمی مبتنی بر اصول منحصر به فرد توانمندی در پاسخ به سوالات پایگاهداده را بهطور قابلملاحظه تقویت میکند.
مدلها
هوش مصنوعی در مقیاس بزرگ: PyTorch FSDP و Accelerate برای تسریع آموزش مدلهای عظیم
PyTorch FSDP با کتابخانه Accelerate موجب تسریع آموزش مدلهای عظیم میشود؛ بدون تغییر در کد، به راحتی مقیاس معادل Multi‑GPU و یادگیری بهسختافزار دست یابید.
پژوهش
هوش مصنوعی در ابر: راهنمای سریع راهاندازی ترنسفورمرها روی Habana Gaudi
با همکاری Habana Labs و Hugging Face، گامی شگفتانگیز در جهت تسهیل آموزش مدلهای ترنسفورمر بر روی متغیرهای Habana Gaudi برداشته شد. در این آموزش، نکات کلیدی برای راهاندازی و بهرهبرداری سریع و هزینه مؤثر آورده شده است.
مدلها
هوش مصنوعی با Habana Labs: سرعت بخشیدن به آموزش مدلهای ترنسفورمر
این همکاری Habana Labs و Hugging Face، آموزش مدلهای ترنسفورمر را بهسرعت کرده و هزینهها را کاهش میدهد و بهدست آوردن نتایج بهتر در برابر رقبا.