مدلهای انتشار نهفته (Latent Diffusion) تحولی در تولید تصویر از متن ایجاد کردهاند. Stable Diffusion یکی از شناختهشدهترین نمونههای این مدلهاست که بهسرعت در جامعه و صنعت پذیرفته شد. ایده پشت این مدل ساده و جذاب است: از یک بردار نویز، در گامهای کوچک و متعدد، نویز به تصویری معنادار تبدیل میشود. این رویکرد بهخوبی عمل میکند، اما بدون دسترسی به GPU قدرتمند، تولید تصویر میتواند زمانبر باشد.
چالش اجرای Stable Diffusion روی CPU
اجرای Stable Diffusion روی CPU معمولاً با کندی مواجه است. فرایند تولید تصویر شامل گامهای تکراری و محاسبات سنگین است که برای کارایی بالا به سختافزار گرافیکی نیاز دارد. اما بسیاری از کاربران و سازمانها به GPU دسترسی ندارند. به همین دلیل، بهینهسازی برای اجرای کارآمد روی CPU اهمیت ویژهای پیدا کرده است.
بهینهسازی با NNCF و Optimum
تیم Hugging Face با همکاری اینتل، راهکاری برای بهینهسازی Stable Diffusion روی CPUهای Intel ارائه کرده است. این راهکار از دو ابزار کلیدی استفاده میکند: NNCF (Neural Network Compression Framework) و کتابخانه Optimum.
NNCF ابزاری برای فشردهسازی مدلهای یادگیری عمیق است. با استفاده از تکنیکهایی مانند کوانتیزاسیون (Quantization) میتوان اندازه مدل را کاهش داد و سرعت اجرا را افزایش داد. Optimum نیز کتابخانهای است که استفاده از مدلهای بهینهشده را در اکوسیستم ترنسفورمرها ساده میکند.
فرآیند بهینهسازی فراتر از کوانتیزاسیون ساده است. روش مورد استفاده شامل کوانتیزاسیون آگاه از آموزش (Quantization-Aware Training) است که دقت مدل را حفظ میکند.
- کاهش اندازه مدل با کوانتیزاسیون بهینه
- افزایش سرعت اجرا روی CPUهای اینتل
- حفظ کیفیت خروجی تصاویر
- یکپارچگی آسان با اکوسیستم Optimum
نتایج بهینهسازی و دستاوردها
نتایج نشان میدهد که بهینهسازی انجامشده، عملکرد Stable Diffusion را روی CPUهای Intel بهطور قابلتوجهی بهبود میبخشد. این دستاورد به کاربران این امکان را میدهد که تولید تصویر مبتنی بر هوش مصنوعی را بدون نیاز به GPUهای گرانقیمت انجام دهند.
تیم توسعهدهنده بهدنبال تعمیم این روش به مدلهای عمومیتر Stable Diffusion هستند. با این رویکرد، امید است که استفاده از مدلهای تولید تصویر در دسترستر و مقرونبهصرفهتر شود.
جمعبندی
بهینهسازی Stable Diffusion با NNCF و Optimum گامی مهم در جهت دموکراتیزه کردن هوش مصنوعی است. این رویکرد نشان میدهد که میتوان مدلهای پیچیده را با حفظ کیفیت، روی سختافزارهای معمولی اجرا کرد.
پرسشهای پرتکرار
آیا Stable Diffusion را میتوان بدون GPU اجرا کرد؟
بله، با استفاده از بهینهسازیهایی مانند NNCF و Optimum، میتوان Stable Diffusion را روی CPUهای اینتل با سرعت قابل قبولی اجرا کرد، بدون نیاز به GPU.
کوانتیزاسیون آگاه از آموزش چیست؟
کوانتیزاسیون آگاه از آموزش (QAT) روشی است که در طی فرایند آموزش، وزنهای مدل به مقادیر با دقت پایینتر (مثل 8 بیت) تبدیل میشوند تا هم حجم مدل کاهش یابد و هم دقت حفظ شود.