پژوهش
همکاری بازگشایی: سفارشیسازی کرنلهای AMD MI300 برای هوش مصنوعی
از بهروزترین راهکارهای در زمینهٔ بهینهسازی پردازش مدلهای هوش مصنوعی، ساخت کرنلهای سفارشی برای گرافیکهای AMD MI300 به عنوان یک گام اساسی در در دسترس قرار دادن قدرت تحلیل داده در مقیاس جهانی مطرح میشود.
پژوهش
هوش مصنوعی در Liger GRPO: تقویت TRL با بهینهسازی حافظه و مقیاسپذیری
در این خبر، Liger GRPO با کاهش مصرف حافظه ۴۰٪ و افزودن امکانات FSDP و PEFT، آموزش RL را برای مدلهای بزرگ بهینه میکند و به تسهیل مقیاسپذیری در چند گپ تبدیل میشود.
پژوهش
Falcon‑Edge: مدلهای هوش مصنوعی 1.58bit برای زیرساختهای کوچک و راههای مقیاسپذیری جدید
در این گزارش به معرفی Falcon‑Edge، مجموعهای از مدلهای زبان قدرتمند 1.58bit میپردازیم که بر معماری BitNet بنا شدهاند و در قالب سهنیتی قابل تنظیم و مقیاسپذیر هستند.
مدلها
هوش مصنوعی: نسخه جدید PaliGemma 2 گوگل، مدل زبان-دید با مقیاسهای چندگانه و رایگان
Google با انتشار PaliGemma 2، مدل زبان-دید جدیدی را ارائه کرده که در ۳، ۱۰ و ۲۸ میلیارد پارامتر و رزولوشنهای گوناگون با هدف دسترسی آزاد و هوش مصنوعی متن-تصویر همراه است.
محصولات
هوش مصنوعی با HUGS: راهکار نوین برای توسعه سریع مدلهای متن باز و مقیاسپذیر
HUGS (Hugging Face Generative AI Services) امکانات Zero‑Configuration inference را برای مدلهای متن باز فراهم کرده و سرعت و مقیاسپذیری توسعه AI را به سطح جدیدی میبرد.
پژوهش
معرفی راهکار مقیاسپذیری دادههای هوش مصنوعی با Hugging Face و Dask
در این مقاله بهطور عملی، بررسی میکنیم چگونه با ترکیب Hugging Face و Dask، پردازشی مقیاسپذیر و سریع روی دادههای عظیم (مثل FineWeb) انجام دهیم و مدلهای pretrained را بهینهتر اجرا کنیم.