پیش‌زمینه
در دنیای هوش مصنوعی، مصرف سریع و کارآمد مدل‌های زبانی بزرگ (LLM) به‌عنوان یکی از چالش‌های کلیدی مطرح است. NVIDIA با کارت‌های گرافیک سری A100 و H100 توانسته است استاندارد جدیدی برای اجرا و آموزش این مدل‌ها تعیین کند. اکنون AMD با معرفی سری سرور GPU Instinct MI300 وارد صحنه می‌شود.
قدرت صفحه‌نمایشی AMD Instinct MI300
MI300 با بیش از ۱۲ همای، حافظه گرافیکی ۷۲ گیگابایت و معماری حافظه ۱۷۰ گیگابیت بر ثانیه، توانایی پردازشی بسیار بالایی برای پردازش مدل‌های زبانی فراهم می‌کند. این کارت‌ها در سوپرکامپیوتر اروپایی LUMI حضور می‌یابند و بخش عظیمی از بار محاسباتی جهان را پوشش می‌دهند.
همکاری بلاک‌چین هوش مصنوعی 🤗 و پشتیبانی Out-of-the-Box
Hugging Face با تأکید برفتیاپنهان‌سازی و جدیت علمی، به‌وسیله کتابخانه Optimum برای AMD، محافظ را بر روی MI300 فراهم کرده است. این تغییرات به صورت زیرزمانی (in-place) در چارچوب PyTorch اعمال می‌شود و کاربران نیازی به نوشتن کد جدیدی ندارند.
- سرعت استقرار مدل‌های زبانی به طور چشمگیر افزایش می‌یابد.
- پشتیبانی از مدل‌های متعدد و دست‌نخورده بدون تغییر.
- هزینه‌های انرژی و خرید سرور بهینه می‌شود.
- قبلی بودن در تحقیقات گسترده Open Source.
پیش‌بینی تأثیر بر جامعه هوش مصنوعی
اجرای سریع و مقرون‌به‌صرفه LLM بر روی MI300 می‌تواند به ویژه برای کشورهای در حال توسعه و موسسات تحقیقاتی کوچک امکان‌پذیر شود. این امر می‌تواند به نوآوری‌های نتخابی، تحقیقات علمی و توسعه محصولات هوشمند کمک شایانی نماید.
پرسش‌های پرتکرار
آیا برای استفاده از AMD GPU نیاز به تغییر در کد مدل‌ها دارید؟
نه، کتابخانه Optimum HC برای AMD بدون تغییر کد، پشتیبانی از MI300 را فراهم کرده است.
آیا این قابلیت برای مدل‌های بزرگ متن و گفتگویی هم قابل اعمال است؟
بله، LLMs از جمله GPT-4 و دیگر مدل‌های متن مبهم می‌توانند با سرعت بهینه بر روی MI300 اجرا شوند.
