پژوهش
کشف مزایا و معایب کوانتیزهسازی مدلهای هوش مصنوعی در Transformers
متن به بررسی مزایا و معایب دو روش کوانتیزهسازی، BitsAndBytes و AutoGPTQ، در کتابخانه Transformers میپردازد و راهنمایی برای انتخاب مناسب ارائه میدهد.
مدلها
AudioLDM 2: سرعت و کیفیت در تولید صدا با هوش مصنوعی در سیستمهای آموزشی
AudioLDM 2 بهنرمافزار Hugging Face معرفی شد، با بهینهسازیهای Flash Attention، نصف‑دقت، Torch Compile و تنظیمات شیودار، زمان تولید صدا را تا 10× کاهش میدهد.
محصولات
سرعت و سهولت ارائه هوش مصنوعی موسیقی با MusicGen و Inference Endpoints
در این مقاله، قدم به قدم میآموزید چگونه مدل MusicGen را با Inference Endpoints از هاجینگ فیس استقرار دهید و ساخت موسیقی بر اساس متن را سریع و بهصورت سفارشی بهصورت API ارائه کنید.
پژوهش
Stable Diffusion XL در مک با کوانتیزهکردن پیشرفته Core ML: آیندهی هوش مصنوعی در دسترس
Stable Diffusion XL بر پایهٔ Core ML بهینه شده و در دسکتاپهای مک اجرا میشود. با تکنیکهای کوانتیزهکردن پیچیده، کیفیت تصاویر بالا و سرعت ذخیرهسازی بهترین است.
پژوهش
هوش مصنوعی در وب: ساخت بازیهای زمان واقعی با Transformers.js برای توسعهدهندگان
در این مقاله، بهصورت گامبهگام میآموزید چگونه با استفاده از Transformers.js یک بازی وب زمان واقعی ساختهاید که بر پایهی یادگیری ماشین امری ساده و بهسرعت است.
سختافزار
هوش مصنوعی با سرعت دو برابر: BridgeTower در قلهی Habana Gaudi2
BridgeTower به کمک سختافزار Habana Gaudi2، سرعت دو برابر در آموزش مدل دید و زبان دستیافت، قطر فاصلهی پردازش بین A100 و H100 را کاهش داد.
سختافزار
سرعت بیسابقه هوش مصنوعی Stable Diffusion با Core ML در اپل
هاگینگ فیس با بهرهگیری از بهینهسازیهای Core ML در WWDC23، سرعت اجرای مدلهای Stable Diffusion را در آیفون، آیپد و مک به طرز چشمگیری افزایش داده است. تجربهای روانتر از هوش مصنوعی مولد.
پژوهش
سرعتگذاری مدلهای ترنسفورمر به کمک AWS Inferentia2 در هوش مصنوعی
AWS Inferentia2، سختافزار جدید ابری، توانایی شتابزدهسازی مدلهای ترنسفورمر هفینگ فیس را افزایش داده و هزینههای اجرایی را به شکل چشمگیری کاهش میدهد. انطباق با پلتفرم هفینگ فیس امکان استفاده آسان از ترنسفورمری را در پروژههای عملی فراهم میکند.