مقدمه
در این مقاله به‌صورت گام‌به‌گام به چگونگی انتشار مدل Vision Transformers (ViT) بر پایهٔ کتابخانه‌های Hugging Face و پلتفرم Vertex AI می‌پردازیم. این روش، همان سطوح قابل‌قابلیت و پویا‌سازی را نسبت به استقرار روی کلاستر Kubernetes فراهم می‌کند، اما با کد کمتر به‌دست می‌آید.
پیش‌نیازها
برای اجرای این راهنما نیازمند دسترسی به یک حساب Google Cloud، نصب gcloud CLI و SDKهای مربوط به Vertex AI هستید. همچنین باید یک مدل ViT شناسایی و آمادهٔ ذخیره در مدل‌ریستری Hugging Face داشته باشید.
نصب و راه‌اندازی
- بارگذاری مدل ViT در مدل‌ریستری Vertex AI.
- ایجاد یک Endpoint برای سرویس.
- پیکربندی پارامترهای مقیاس‌پذیری و سرویسی که در فهرست هزینه‌ی Google دیده می‌شود.
سپس با استفاده از کدهای نمونهٔ Colab که در ابتدای آموزش آورده شده است، مدل را به‌صورت خودکار ارتقا می‌خواهیم تا درخواست‌های پیش‌بینی در تعداد بالا و به‌صورت داینامیک پردازش شود.
پایش و مانیتورینگ
Vertex AI امکان داده‌کاوی در زمان واقعی و نمایش گرافک و لاگ‌های پیش‌بینی را می‌دهد. طول زمان پاسخ، ورژن مدل، و خطاهای احتمالی را در داشبورد موکریان مشاهده کنید.
ارزیابی هزینه و بهینه‌سازی
مقایسهٔ هزینهٔ انتشار ViT در Vertex AI و Kubernetes از دو منظر منابع و دسترسی به گارانتی. نکات بهینه‌سازی مانند تسک‌ها و قرار دادن در اولویت سکو (jobs) در نظر گرفته می‌شود.
پرسش‌های پرتکرار
در Vertex AI چه خدماتی برای مانیتورینگ کناری وجود دارد؟
Vertex AI امکان مانیتورینگ، لاگ‌گیری و تنظیم سطوح هشدار را در داشبورد Google Cloud فراهم می‌کند؛ می‌توان از ابزارهای Analysis Dashboard و Cloud Monitoring برای پژوهش و اجرای عملیاتی استفاده کرد.
آیا می‌توان مدل ViT را با Free tier در Vertex AI اجرا کرد؟
برنامه‌ی ستاره‌های Free tier در Vertex AI به مصرف محدود کافی برای تست محدود مدل‌پیاده‌سازی بر می‌گردد، اما برای تولید و مقیاس‌پذیری واقعی نیاز به لایسنسهای پولی می‌باشد.
