یکپارچه‌سازی Deploy on Google Cloud
گوگل کلود و پلتفرم Hugging Face در این‌باره همکاری نوینی آغاز کردند؛ سرویس «Deploy on Google Cloud» اجازه می‌دهد هزاران مدل زبان بزرگ (LLM) باز را به‌سادگی در Vertex AI یا Google Kubernetes Engine (GKE) مستقر کنید.
نحوه کارکرد و امکانات
این سرویس به‌صورت مستقیم از کارت‌های مدل در Hugging Face Hub یا تنظیمات Vertex AI استفاده می‌کند. پس از انتخاب مدل، توسعه‌دهنده می‌تواند با چند کلیک، ایندپوت API را در محیط امن Google Cloud فعال کند. برای اینکار از Text Generation Inference بهره گرفته می‌شود که توانایی پردازش متن در سطح تولیدی را فراهم می‌آورد.
مزایا و کاربردهای عملی
استفاده از این راه‌حل به معنی حذف نیاز به مدیریت سرور، ذخیره‌سازی و مقیاس‌پذیری است؛ پروژه‌های تولیدی می‌توانند سریع‌تر به مرحله کسب‌وکار برسند. علاوه بر این، این سرویس امکان تطبیق و سفارشی‌سازی مدل بر اساس نیازهای خاص کسب‌وکار را نیز فراهم می‌کند.
- دسترس‌پذیری هزاران مدل متن‌باز از Hugging Face Hub
- مقدار کم هزینه و بهینه‌سازی پردازش بر پایه GPUهای Google Cloud
- یکپارچه‌سازی ساده با ابزارهای DevOps محبوب
- قابلیت مقیاس‌پذیری به‌صورت خودکار بر اساس بار کاری
پرسش‌های پرتکرار
این یکپارچه‌سازی چگونه برای توسعه‌دهندگان موثر است؟
با Deploy on Google Cloud، توسعه‌دهندگان می‌توانند مدل‌های زبانی باز را مستقیماً در حساب Google Cloud خود، به‌صورت ایندپوت API، بدون نیاز به پیکربندی زیرساخت، مستقر کنند.
کدام مدل‌های LLM در Vertex AI موجود هستند؟
به‌مجوز نرم‌افزار متن‌باز Hugging Face، هزاران مدل از جمله GPT‑2، Llama و مدل‌های دیگر در Vertex AI قابل دسترسی هستند.
