معرفی کانتینر Embedding هاجینگ فیس
هاجینگ فیس به تازگی نسخه‌ی کلان مصرفی (GA) کانتینر Embedding خود را برای AWS SageMaker منتشر کرده است که به توسعه‌دهندگان اجازه می‌دهد مدل‌های embedding متن باز را در زیرساخت ابری AWS به‌صورت سریع و بهینه پیاده کنند.
نحوه‌ی استقرار مدل در SageMaker
فرآیند استقرار شامل پنج گام ساده است: ۱. تنظیم محیط توسعه، ۲. دریافت کانتینر جدید، ۳. بارگذاری مدل (مثلاً Snowflake/snowflake-arctic-embed-m-v1.5)، ۴. ایجاد نقطه‌اطلاع (endpoint) و ۵. ارزیابی عملکرد.
- تعریفEnvironment
- دریافتContainer
- بارگذاریمدل
- ایجادEndpoint
- ارزیابی و حذف
فایده‌ی استفاده از Embedding در RAG و برنامه‌های هوش مصنوعی
محصولی مانند Snowflake/snowflake-arctic-embed-m-v1.5، بر روی لیدرور MTEB برای کارهای retrieval عالی رتبه‌بندی شده و می‌تواند به‌عنوان پایه‌ای برای سیستم‌های Retrieval-Augmented Generation (RAG) به‌کار رود.
کارتون مزایا: سرعت بالا، مقیاس‌پذیری بدون نیاز به مدیریت سخت‌افزار، و سازگاری کامل با APIهای SageMaker.
پرسش‌های پرتکرار
کدام مدل‌های embedding می‌توانند در این کانتینر استفاده شوند؟
مدل‌های متن باز مثل Snowflake/snowflake-arctic-embed-m-v1.5، BAAI/bge-large-en-v1.5 و sentence-transformers/all-MiniLM-L6-v2 به‌صورت مستقیم در این کانتینر قابل بارگذاری هستند.
قیمت‌گذاری این سرویس در AWS چگونه اعمال می‌شود؟
کنتینر Embedding خود به‌صورت خاص قیمت‌گذاری نمی‌شود؛ فقط هزینه توسعه و حافظهٔ مورد استفاده در سرورهای SageMaker در فاکتور شما لحاظ می‌شود، در حالی که هاجینگ فیس نسخه‌های مجانی و پرمیوم را هم ارائه می‌دهد.
