سختافزار
هوش مصنوعی گوگل با تراشه TPU اختصاصی؛ قدرت پردازش نسل جدید
گوگل با توسعه تراشه TPU اختصاصی برای هوش مصنوعی، پردازش مدلهای بزرگ را متحول کرده است؛ این تراشهها نقش کلیدی در زیرساخت ابری و سرویسهای هوش مصنوعی دارند.
پژوهش
همکاری بازگشایی: سفارشیسازی کرنلهای AMD MI300 برای هوش مصنوعی
از بهروزترین راهکارهای در زمینهٔ بهینهسازی پردازش مدلهای هوش مصنوعی، ساخت کرنلهای سفارشی برای گرافیکهای AMD MI300 به عنوان یک گام اساسی در در دسترس قرار دادن قدرت تحلیل داده در مقیاس جهانی مطرح میشود.
محصولات
هوش مصنوعی در Hub: اجرای سرویس سرورلس میان فالس، ریپلیکیت و سامبد و توگدرف API
Hub هوش مصنوعی با اپلیکیشن سرورلس جدید، کارکرد سناریوهای Falcon و Replicate را تسهیل کرده و به کاربران امکان اجرای مدلهای سرورلس و سریع را میدهد.
مدلها
کوانتو؛ بکاند کوانتیزهسازی پایتورچ برای استقرار مدلهای هوش مصنوعی
کوانتو یک بکاند کوانتیزهسازی برای پایتورچ است که توسط Hugging Face برای کاهش مصرف حافظه و افزایش سرعت پردازش مدلهای هوش مصنوعی معرفی شده است.
سختافزار
هوش مصنوعی بر روی Cloud TPU v5e: سرعتبخشی SDXL با JAX
کشف روش جدیدی برای پردازش مدل Stable Diffusion XL با بهرهگیری از JAX بر روی Google Cloud TPU v5e؛ بهبود کارایی، کاهش هزینه و افزایش سرعت تولید تصویر عالی در شرایط واقعی.