کامل شدن هماهنگی پردازش GPU AMD Instinct MI300 در هوش مصنوعی
از زمان آغاز همکاری، Hugging Face و AMD به تسهیل استفاده از سخت‌افزارهای پیشرفته متعهد شده‌اند. اکنون پردازنده گرافیکی Instinct MI300 به‌صورت native در پلتفرم کلان Hugging Face وارد شده است، که به توسعه‌دهندگان امکان می‌دهد از قدرت پردازش این GPU بهره‌مند شوند.
سرورهای MI300: مسیر جدیدی برای مدل‌های زبانی و تحلیل متن
با ترکیب امکانات سخت‌افزاری AMD Instinct MI300 و کتابخانه‌های متن‌باز مانند transformers و text-generation-inference، کاربران می‌توانند مدل‌های پیچیده را بدون نیاز به تغییرات کد، در محیط‌های محلی یا ابری مانند Azure ND MI300x V5 راه‌اندازی کنند. این قابلیت، سرعت توسعه و تست مدل‌ها را به‌طور چشمگیری افزایش می‌دهد.
چرا MI300؟ وفاداری به متن‌باز و سرعت در ارائه نتایج
امکانات MI300 شامل حافظه بالا، پهنای باند گرافیکی بالا، و سازگاری با مصرف کمتر انرژی است. این ویژگی‌ها در کنار محیط متن‌باز Hugging Face، به توسعه‌دهندگان امکان می‌دهد که در کمتر زمان و با حداقل هزینه مدل‌های جدید را ارزیابی و بهینه‌سازی کنند.
- پشتیبانی کامل از تکمیل متن و زبانی
- نگه‌داری و اجرای مدل بدون نیاز به تغییرات کد
- یکپارچه‌سازی با سرویس‌های ابری Azure برای تولید در مقیاس بزرگ
- پایگاه داده‌های مدل و مستندات کامل در Hugging Face Hub
پرسش‌های پرتکرار
چگونه می‌توان مدل خود را بر روی MI300 اجرا کرد؟
برای اجرای مدل بر روی MI300، کافی است کتابخانه‌های transformers یا text‑generation‑inference را نصب کنید و در محیطی که از CUDA 12 و نسخه‌های سازگار با آن پشتیبانی می‌کند، مدل را بارگذاری کنید. هیچ تغییر کد لازم نیست.
کدام مدل‌ها و وظایف برای MI300 مناسب هستند؟
تمام مدل‌های زبانی بزرگ (مانند GPT‑جنسیت و LLaMA) و مدل‌های پردازش متن مانند BERT و RoBERTa می‌توانند بر روی MI300 به‌صورت مؤثر اجرا شوند، مخصوصاً وقتی حافظه‌ی GPU کافی و سرعت بالا مورد نیاز است.
