پژوهش
هوش مصنوعی در ابرداده «Meta Llama 3.1 405B» بر روی Vertex AI گوگل کلود
مدل Llama 3.1 405B Meta به صورت متنمحور و چندزبانه، امکان پیشبینیهای آنلاین در Vertex AI گوگل کلود را با سرعت و دقت بالا فراهم میکند.
پژوهش
هوش مصنوعی و آزمایش ناکام «Infini‑Attention»؛ چرا هنوز تلاش کنیم؟
استخراج و آزمایش مدل Infini‑Attention نشان داد که فشردهسازی حافظه مدل در طول زمینه طولانی باعث کاهش عملکرد میشود؛ این مقاله به بررسی دلایل این شکست و نگاهی به راههای جایگزین میپردازد.
پژوهش
هوش مصنوعی بر روی حافظهٔ محلی: معرفی ggml و کاربردهای آن
بررسی جامع فریمورک open-source ggml که برای اجرای مدلهای ترنسفورمر به صورت on-device طراحی شده و متناسب با دستگاههای کممنبع است و ابزارهای توسعه