آشنایی با LoRA و کاربردهای آن در تولید تصویر

LoRA (Low‑Rank Adaptation) یک تکنیک ساده اما قدرتمند است که مدل‌های یادگیری ماشین را به‌صورت آسان و با حجم کم آموزش می‌دهد. با اضافه کردن لایه‌های کم‌نرخ، می‌توان فراتر از خط‌های اولیه مدل‌ها رفت و تحولات بدون تغییر در وزن‌های اصلی ایجاد کرد.

کاهش زمان استخراج با Fast LoRA در Flux 1‑Dev

مقاله HuggingFace گزارش می‌دهد که با پیاده‌سازی Fast LoRA در مدل متن‑به‑تصویر Flux 1‑Dev، زمان اجرای پیش‌بینی به‌طور متوسط 2.3 برابر سریع‌تر قرار گرفته است. این به‌دست آوردن نهایی به‌دلیل حداکثر 30k لایه LoRA آموزش دیده بر روی این مدل حاصل می‌شود.

همچنین، فرایند صاف کردن در Diffusers و PEFT ترکیب می‌شود تا برای توسعه‌دهندگان این امکان را فراهم کند که به‌صورت باز و به‌سرعت مدل‌های خود را سفارشی‌سازی کنند.

چطور می‌توانید این همان روش را در مدل‌های دیگر اعمال کنید؟

اگر می‌خواهید همین روند را برای مدل‌های دیگری مثل Stable Diffusion یا بناء پارامترهای دیگر بکار ببرید، کافیست مراحل زیر را دنبال کنید: 1) نمایه LoRA را طبق مستندات نصب کنید؛ 2) از Diffusers API برای راه‌اندازی سریع استفاده کنید؛ و 3) زمان پردازش را برای مقایسه ثبت کنید.

  • دستگاه‌های میکروسافت GPU برای مقیاس بالا مناسب هستند.
  • زمان اجرا تا 73٪ کمتر در محیط‌های محدود.
  • کدهای متن باز به‌صورت کامل در گیتهاب در دسترس است.

پرسش‌های پرتکرار

Fast LoRA چیست؟

Fast LoRA یک پیاده‌سازی سریع از تکنیک LoRA (Low‑Rank Adaptation) است که با افزودن لایه‌های کم‌نرخ، مدل‌های بزرگ را به‌صورت بهینه و با حجم کم، سفارشی‌سازی می‌کند و سرعت پیش‌بینی را بهبود می‌بخشد.

این بهبود سرعت به چه میزان قابل مشاهده است؟

در مورد مدل Flux 1‑Dev، Fast LoRA باعث سرعتی به‌طور متوسط 2.3 برابر بیشتر می‌شود، به ویژه در مورد 30k LoRA از پیش آموزش دیده که در این مدل وجود دارند.