سرعت و دسترسی به مدلهای منبع باز
در روزنامه‌نامهٔ دسامبر 2024، شرکت Hugging Face فریاد زد: مدلهای محبوب خود طبقه‌بندی‌شده در Amazon Bedrock Marketplace در دسترس مشتریان AWS قرار دارد. اکنون تا 83 مدل تسهیل‌شده فراگیر و آزاد به‌سرعت در بیدروک مورد استفاده قرار می‌گیرند.
یکپارچه‌سازی با SageMaker JumpStart
موارد مدل در بیدروک به‌وسیله SageMaker JumpStart در پایهٔ زیرساخت‌های سانگه معنای به‌کارگیری کلیدهای ساده نظیر Agents، Knowledge Bases، Guardrails و Model Evaluations می‌شود. در واقع، مشتریان می‌توانند از سهولت «منتقل‌کردن» مدل ‟پیوست” به محیطهای مدرن بهره‌مند شوند؛ بدون آنکه در ساختار زیرساخت یا امنیت پافشاری کنند.
طرح قیمت‌گذاری و صرفه‌جویی
در حالی که Bedrock Marketplace هزینه‌ای جداگانه برای دسترسی مدل ندارد، مصرف فاکتور کل به‌صورت متناسب با سرویس‌های SageMaker Compute و نرخهای API بیدروک محاسبه می‌شود. به‌این معنا که کاربران فقط بابت منابع اجرایی مصرفی مبلغ می‌پردازند.
- دسترسی فوری به مدلهای پیش‌فرض و سفارشی.
- کاهش زمان و هزینهٔ مهندسی نرم‌افزار و آموزش.
- سازگاری کامل با APIهای سمت بالا برای Agent و Guardrail.
پیاده‌سازی گام به گام
۱. به حساب AWS خود وارد شوید و به بخش Bedrock Marketplace بروید.
۲. مدل مورد نظر را انتخاب کرده و بر روی «deploy» کلیک کنید.
۳. آدرس endpoint سرویس خود را دریافت کنید و آن را در پروژهٔ Ollama یا Lambda خود فراخوانی کنید.
توجه داشته باشید که انتخاب یک مدل مناسب نیازمند مطالعه متون فنی و مستندات Hugging Face است؛ امکان ارزیابی پیش‌رونده از طریق مدل Evaluation سیستم فراهم است.
پرسش‌های پرتکرار
چگونه می‌توانم مدل Hugging Face را در Amazon Bedrock پیاده‌سازی کنم؟
به بخش Bedrock Marketplace در کنسول AWS مراجعه کنید، مدل مورد نظر را انتخاب کنید، سپس بر روی دکمهٔ Deploy کلیک کنید. پس از ایجاد endpoint، کلید API را در پروژه‌تان استفاده کنید.
آیا برای استفاده از مدلهای منتشر شده در بیدروک هزینه می‌پردازم؟
مقدار هزینه بر اساس منابع محاسباتی SageMaker و نرخهای API بیدروک محاسبه می‌شود؛ چون قیمت‌گذاری بر مبنای مصرف است، اضافه بر هیچ‌گونه هزینهٔ مجوز مدل ذکر نشده است.
