معرفی Habana Gaudi و مزایای آن در هوش مصنوعی
Habana Gaudi یک حافظه‌ی پردازشگر موازی برای یادگیری عمیق است که توسط شرکت Habana Labs طراحی شده. این پردازنده می‌تواند تا ۴۰٪ عملکرد بهتر از سرورهای GPU جدید Amazon EC2 را در یادگیری دپ لرنینگ ارائه دهد. همکاری با Hugging Face، این امکان را برای جامعه‌ی متن‌باز فراهم کرده است تا بدون نیاز به مهارت‌های خاص، مدل‌های ترنسفورمر را روی سخت‌افزارهای Gaudi آموزش دهند.
راه‌اندازی نمونه‌های AWS DL1 با سرور Habana
اولین گام برای بهره‌برداری از Gaudi روی ابر، ایجاد یک نمونه EC2 DL1 است. این نمونه‌ها از ۸ واحد Gaudi پشتیبانی می‌کنند و با Habana SynapseAI® SDK در آماده‌سازی کامل آمده‌اند. برای راه‌اندازی:
- به کنسول AWS بروید و انتخاب کنید: EC2 – New Launch – DL1.
- پیکربندی امنیتی را به‌گونه‌ای تنظیم کنید که ارتباط SSH معتبر باشد.
- پس از راه‌اندازی، به سرور SSH کنید و با دستور habana version نسخه‌ی SDK را لیست کنید.
نزدیک‌سازی مدل BERT بر روی Habana Gaudi
برای رسیدن به عملکرد بالا و هزینه کم، مدل BERT را می‌توان با استفاده از کتابخانه Hugging Face Trainer به‌صورت زیر آینه‌سازی کرد:
- استفاده از دیتاست‌های مقیاس کوچک مانند SST-2 برای تست اولیه.
- تنظیم پارامترهای همانند learning_rate، batch_size، gradient_accumulation_steps مطابق با پردازشگر Gaudi.
- استفاده از accelerate launch برای اطمینان از بهینه‌سازی مستمر GPU/ Gaudi.
نتایج و مقایسه با GPU
با اجرای ۲۰۰ هزار تکرار روی نمونه DL1، مدل مدل BERT در حین آموزش متوسط زمان ۱۵٪ کوتاه‌تر از مقایسه‌ی مشابه بر روی GPU کرد. قیمت سرور نیز تا ۳۰٪ کاهش یافت که برای تیم‌های پژوهشی و کسب و کار حائز اهمیت است.
پرسش‌های پرتکرار
Habana Gaudi چیست؟
Habana Gaudi یک پردازنده‌ی موازی مخصوص یادگیری عمیق است که توسط Habana Labs توسعه داده شده و برای مدل‌های ترنسفورمر طراحی شده است. این پردازنده بر روی سرورهای AWS DL1 پیش‌پیکربندی شده و پیشرفت‌های قابل توجهی در هزینه و سرعت آموزش مدل دارد.
چگونه می‌توان Gaudi را روی AWS راه‌اندازی کرد؟
با انتخاب نمونه‌ی EC2 DL1 در کنسول AWS، کانفیگ امنیتی مناسب را اعمال کرده، و پس از راه‌اندازی، با اتصال SSH به سرور از دستور <code>habana version</code> برای چک کردن نصب SDK استفاده کنید. سپس می‌توانید از Hugging Face Trainer برای آموزش مدل استفاده کنید.
