پژوهش
هوش مصنوعی بر روی حافظهٔ محلی: معرفی ggml و کاربردهای آن
بررسی جامع فریمورک open-source ggml که برای اجرای مدلهای ترنسفورمر به صورت on-device طراحی شده و متناسب با دستگاههای کممنبع است و ابزارهای توسعه
پژوهش
هوش مصنوعی با مدل Falcon Mamba: نخستین 7B بدون دقت متن کامل
مدلی نوآورانه و بدون دقت (attention‑free) با 7 میلیارد پارامتر، Falcon Mamba را که توسط تیم نوآوری تکنولوژی در ابوظبی پردازش کردهایم، در همین هفته معرفی میکنیم و کاربردهای آن را بررسی میکنیم.
مدلها
کوانتایز دیفیوژن ترنسفورمر با Quanto: کاهش مصرف حافظه در هوش مصنوعی
با معرفی ابزارهای Quanto و Diffusers، اجرا کردن مدلهای سنگین تولید تصویر با هوش مصنوعی بر روی سختافزارهای محدودتر بدون افت عملکرد محسوس اکنون امکانپذیر است.
اخبار
هوش مصنوعی Llama 3.1 از Meta بهروز شد: 405B، 70B و 8B با چندزبانهیی
Meta و Hugging Face با انتشار Llama 3.1 نسخههای 8B، 70B و 405B را معرفی کردند؛ این مدلهای چندزبانه، حافظه بلند و دسترسی از طریق API ارائه میدهند.
سختافزار
هکهای هوش مصنوعی: اجرای Mistral 7B بر روی Core ML در WWDC 2024
در صدوی WWDC، اپل امکان اجرای مدل هوش مصنوعی Mistral 7B بر روی Apple Silicon را با Core ML معرفی کرد. این نوآوری دنیای مدلهای زبانی را به هم میکشد.