پژوهش
سرعت‌بخشی مدل‌های LLM با Universal Assisted Generation: راه‌حل هوش مصنوعی
این نوآوری از Intel Labs و Hugging Face امکان می‌دهد سرعت پیش‌بینی مدل‌های قدرتمند را با کمک یک مدل کوچک به ۱.۵-۲ برابر افزایش داده و هزینه‌ها را کاهش دهد.
اخبار
پشتیبانی سریع‌تر Assisted Generation بر روی Intel Gaudi در هوش مصنوعی
شرکت Intel و هابانا پردازنده Gaudi را برای سرعت‌پردازی Assisted Generation طراحی کرده و هزینه و مصرف انرژی را به‌طور چشمگیری کاهش می‌دهد.
سخت‌افزار
سرعت‌دادن Stable Diffusion بر CPUهای Intel: راهنمای هوش مصنوعی
با بهره‌گیری از چهارتا تکنیک اصلی در پردازنده‌های Intel Sapphire Rapids، پیش‌بینی مدل Stable Diffusion را معنادار سرعت‌بخشید. راهنمای جامع برای توسعه‌دهندگان و محققان.
اخبار
چگونه با هوش مصنوعی سرعت استنتاج ترنسفورمرها را ۱۰۰ برابر کردیم؟
هافینگ فیس با ترکیب تکنیک های بهینه سازی و کامپایلرهای تخصصی، استنتاج ترنسفورمرها را برای مشتریان API خود ۱۰۰ برابر سریع تر کرد. در این مقاله بررسی می کنیم.