مدلها
هوش مصنوعی: ۳ برابر سریعتر با مدل LFM2.5-DSpark Liquid AI
Liquid AI مدل LFM2.5-DSpark را منتشر کرد که تا ۳.۲ برابر اجرای سریعتر هوش مصنوعی را بدون کاهش کیفیت ارائه میدهد.
سختافزار
ساخت عاملهای صوتی چندزبانه با تأخیر کم: وزنهای باز و کنترل کامل استقرار با NVIDIA Magpie TTS
یک پست وبلاگ از NVIDIA در مورد بغل کردن صورت
پژوهش
کالبدشکافی هوش مصنوعی: چگونه هوش مصنوعی را سریعتر کنیم؟
در این مقاله به بررسی تکنیکهای کاهش حجم مدلهای هوش مصنوعی، از جمله knowledge distillation میپردازیم و تاثیر آن بر آینده AI را تحلیل میکنیم.
اخبار
سرعت بومی vLLM با کتابخانه Transformers در اکوسیستم هوش مصنوعی
Hugging Face اعلام کرد بکاند transformers در vLLM به سرعت بومی یا حتی بالاتر از پیادهسازیهای اختصاصی رسیده و توسعهدهندگان مدلهای زبانی میتوانند بدون هزینه اضافه، استنتاج فوقسریع داشته باشند.