اخبار
هوش مصنوعی در شتاب TGI بر روی Intel Gaudi: راهنمای جامع
TGI (Text Generation Inference) با یکپارچگی نوین در پردازندههای Intel Gaudi، سرعت و کارایی مدلهای بزرگ زبان را به طور چشمگیری بهبود میبخشد و اجرای مدلهای LLM را در زمان کمتری ممکن میسازد؛ راهنمای جامع برای پیادهسازی و بهرهبرداری.
پژوهش
هوش مصنوعی باز: زبانهای مدل باز به عنوان عاملان هوشمند LangChain
مقاله تازه در زمینه مدلهای زبانی متنباز و تبدیل آنها به عاملان هوشمند LangChain را بررسی میکند؛ با نکات نوآورانه در توسعه و بهرهبرداری!
سختافزار
سرعت inference PyTorch با پردازندهٔ Intel Sapphire Rapids برتر
در این مقاله، سرعت inference مدلهای NLP بر پایه PyTorch را در سرورهای Intel Sapphire Rapids و Ice Lake میسنجیم و نکات عملی برای بهرهبرداری را بررسی میکنیم.