سختافزار
llama.cpp: مدیریت هوشمند مدلهای LLM برای اجرای سریع در محیطهای محلی
با معرفی جدید در llama.cpp، مدیریت مدلهای هوش مصنوعی به صورت پویا امکانپذیر شد. این نسخه، با امکانات Dynamic Loading و Multi-Process، بهرهوری در اجرای LLMهای محلی را دوچند برابر افزایش میدهد.
کسبوکار
هوش مصنوعی در کلاود: OVHcloud بهعنوان ارائهدهندهی جدید در Hugging Face
OVHcloud با یکپارچگی مطمئن در Hugging Face، خدمات پیشپرداز و سرورمدار بدون سرور را برای مدلهای هوش مصنوعی محبوبی مانند gpt-oss، Qwen3، DeepSeek R1 و Llama فراهم میکند.
محصولات
20 برابر سریعتر! RapidFire AI: فاین‑تینینگ مدلهای هوش مصنوعی به سرعت 20×
RapidFire AI با یکپارچهسازی خود با Hugging Face TRL، امکان فاین‑تینینگ مدلهای زبانی را در زمان چندین برابر سرعتسازی میکند؛ در آزمایشهای داخلی به دست آوردن 16‑24× تسریع در مقایسه با روشهای متوالی.