پژوهش
آیا LoRA بهترین روش تنظیم دقیق هوش مصنوعی است؟
در این مقاله بررسی می‌کنیم که آیا روش محبوب LoRA واقعاً بهترین گزینه برای تنظیم دقیق کارآمد پارامتری مدل‌هاست و چه ابزارهایی در این مسیر کمک می‌کنند.
سخت‌افزار
هوش مصنوعی رباتیک بر پردازنده i.MX 95: ضبط داده، آموزش VLA و بهینه‌سازی در دستگاه‌های اندماخته
پلتفرم i.MX 95 توسط NXP همراه با Hugging Face، مجموعه‌داده را با روش‌های استاندارد ضبط، VLA را با تکنیک‌های جراحی کوچک بهینه و بر روی دستگاه‌های تعبیه‌شده اجرا می‌کند. محققان بر بهینه‌سازی حافظه و دستورات زمان واقعی تأکید می‌کنند.
پژوهش
هوش مصنوعی در Liger GRPO: تقویت TRL با بهینه‌سازی حافظه و مقیاس‌پذیری
در این خبر، Liger GRPO با کاهش مصرف حافظه ۴۰٪ و افزودن امکانات FSDP و PEFT، آموزش RL را برای مدل‌های بزرگ بهینه می‌کند و به تسهیل مقیاس‌پذیری در چند گپ تبدیل می‌شود.
پژوهش
GaLore: آموزش مدل‌های زبانی بزرگ روی سخت‌افزار مصرفی با هوش مصنوعی
تکنیک نوین GaLore با کاهش شدید مصرف حافظه در حالت‌های بهینه‌ساز، امکان آموزش مدل‌های زبانی چند miljard پارامتری را روی کارت‌های گرافیک معمولی و ارزانی‌تر برای پژوهشگران فراهم می‌کند.
مدل‌ها
چگونه مدل IF متن به تصویر را در Google Colab رایگان اجرا کنیم؟
آموزشی گام به گام برای راه‌اندازی مدل IF، مدل متن‑به‑تصویر پیشرفته، با چارچوب diffusers در محیط رایگان Google Colab. نکات بهینه‌سازی حافظه و کدها.
آموزش
هوش مصنوعی و بهینه‌سازی حافظه: معرفی ZeRO با DeepSpeed و FairScale
با رشد مدل‌های بزرگ، حافظه GPU پاسخگو نیست. ZeRO در DeepSpeed و FairScale راهکاری برای آموزش سریع‌تر و بهینه‌سازی مصرف حافظه است.