اخبار
سرعت بومی vLLM با کتابخانه Transformers در اکوسیستم هوش مصنوعی
Hugging Face اعلام کرد بکاند transformers در vLLM به سرعت بومی یا حتی بالاتر از پیادهسازیهای اختصاصی رسیده و توسعهدهندگان مدلهای زبانی میتوانند بدون هزینه اضافه، استنتاج فوقسریع داشته باشند.
محصولات
ادغام عمیق هوش مصنوعی: از هافینگفیس تا Amazon SageMaker Studio فقط با یک کلیک
آمازون از ادغام عمیق بین هافینگفیس و SageMaker Studio رونمایی کرد. توسعهدهندگان هوش مصنوعی اکنون میتوانند تنها با یک کلیک از کشف مدل به آزمایش عملی در محیط استودیو منتقل شوند.
اخبار
راهاندازی سرور vLLM روی Hugging Face Jobs فقط با یک دستور
هگینگفیس قابلیت جدیدی ارائه داده که با یک دستور ساده میتوانید سرور vLLM سازگار با OpenAI را روی زیرساخت ابری آنها راهاندازی کنید؛ بدون نیاز به کوبرنتیز و با پرداخت به ازای ثانیه استفاده.