سختافزار
همکاری هوش مصنوعی: Hugging Face و Graphcore برای تسریع ترنسفورمرها با IPU
پلتفرم جدید Graphcore IPU در همکاری با Hugging Face سرعت اجرای مدلهای ترنسفورمر پیشرفته را بدون کدنویسی پیچیده، در مقیاس تولید، افزایش داده و به توسعهدهندگان امکان میدهد بهسرعت مدلهای برتر را مستقر کنند.
سختافزار
راهنمای بهینهسازی هوش مصنوعی: افزایش کارایی مدل BERT روی CPU
در دنیای هوش مصنوعی، اجرای مدلهای زبانی روی CPU نیازمند بهینهسازی است. این مقاله از Hugging Face روشهای افزایش توان عملیاتی و کاهش تأخیر را بررسی میکند.
مدلها
هوش مصنوعی با RAG و Ray: افزایش سرعت بازیابی متن تا ۲ برابر
با ترکیب RAG و Ray، سرعت بازیابی اسناد در مدلهای زبانی هوش مصنوعی تا ۲ برابر افزایش یافته و مقیاسپذیری تنظیم دقیق توزیعشده نیز بهطور چشمگیری بهبود مییابد.