در دنیای پرسرعت هوش مصنوعی، ادغام مدل‌ها به یکی از استانداردهای غیررسمی برای افزایش عملکرد مدل‌های زبانی بزرگ تبدیل شده است. در جدول رهبری Open LLM هگز فیس، مدل‌های ادغام‌شده به طور مداوم در صدر جدول دیده می‌شوند. هگز فیس در تازه‌ترین به‌روزرسانی کتابخانه PEFT، روش‌های جدیدی برای ترکیب و ادغام آداپتورهای LoRA معرفی کرده است. این روش‌ها به توسعه‌دهندگان امکان می‌دهند مدل‌های قوی‌تری بدون نیاز به آموزش مجدد و با مصرف حافظه کمتر بسازند.
روش‌های جدید ادغام LoRA در PEFT
در این به‌روزرسانی، چند تکنیک جدید به کتابخانه PEFT اضافه شده است که هرکدام برای سناریوهای مختلف طراحی شده‌اند. برخی از این روش‌ها ساده و سریع هستند و برخی دیگر با استفاده از تجزیه ماتریسی یا هرس، کیفیت نهایی مدل را بهبود می‌بخشند.
- الحاق (Concatenation) برای ترکیب ساده آداپتورها
- جمع خطی یا Task Arithmetic برای اعمال هم‌زمان چند وظیفه
- تجزیه مقدار منفرد (SVD) برای کاهش ابعاد و بهبود کارایی
- TIES و TIES-SVD برای رفع تناقض بین آداپتورها
- DARE (با انواع linear و ties) برای حذف نویز و تقویت سیگنال‌های مهم
- هرس اندازه (Magnitude Prune) برای فشرده‌سازی مدل
این روش‌ها در دو دسته کلی قرار می‌گیرند: روش‌هایی که مستقیماً روی خود آداپتورها اعمال می‌شوند و روش‌هایی که ابتدا آداپتورها را به درون وزن‌های اصلی مدل پایه ادغام می‌کنند و سپس عملیات ادغام نهایی را انجام می‌دهند.
چگونه آداپتورهای LoRA خود را ادغام کنیم؟
فرایند ادغام در PEFT به سادگی فراخوانی توابع مشخص برای هر روش است. بسته به روش انتخابی، می‌توانید آداپتورهای خود را از روی Hub بارگذاری کرده و با یک دستور ساده ادغام کنید. این کار نیازمند دانلود چک‌پوینت‌های جداگانه است و بسته به اندازه مدل، می‌تواند حافظه زیادی مصرف کند.
خوشبختانه کتابخانه‌هایی مانند mergekit بهینه‌سازی‌های پیشرفته‌ای برای این فرایند ارائه می‌دهند. با این حال، اضافه شدن این روش‌ها به PEFT تجربه یکپارچه‌تری را برای کاربرانی که از اکوسیستم هگز فیس استفاده می‌کنند فراهم می‌کند.
گامی به سوی دموکراتیزه کردن هوش مصنوعی
هگز فیس هدف خود را پیشبرد و دموکراتیزه کردن هوش مصنوعی از طریق متن‌باز و علم باز اعلام کرده است. این به‌روزرسانی نیز در همین راستا انجام شده و به پژوهشگران و توسعه‌دهندگان اجازه می‌دهد با روش‌های استاندارد و مستند، مدل‌های ترکیبی خود را بسازند. ادغام مدل‌ها در آینده نقش پررنگ‌تری در بهبود عملکرد مدل‌های زبانی خواهد داشت و PEFT در خط مقدم این تحول قرار دارد.
پرسش‌های پرتکرار
روش ادغام LoRA چیست و چه کاربردی دارد؟
LoRA یک تکنیک بهینه‌سازی برای تنظیم دقیق مدل‌های زبانی بزرگ است. ادغام LoRA یعنی ترکیب چند آداپتور آموزش‌دیده‌شده در یک مدل واحد تا بدون نیاز به آموزش مجدد، عملکرد مدل در چند وظیفه یا با کیفیت بالاتر بهبود یابد.
روش TIES چه مزیتی نسبت به سایر روش‌های ادغام دارد؟
روش TIES با شناسایی و حذف تناقض‌های بین آداپتورهای مختلف، از تداخل منفی جلوگیری می‌کند. این کار باعث می‌شود ادغام پایدارتر و کیفیت نهایی مدل بالاتر برود. گونه svd آن نیز از تجزیه ماتریسی برای کاهش پیچیدگی محاسباتی استفاده می‌کند.
