اخبار
Judge Arena: پلتفرم Hugging Face برای مقایسه مدلهای زبانی در نقش داور
هَگینگفیس پلتفرم Judge Arena را معرفی کرد؛ ابزاری متنباز برای مقایسه و رتبهبندی مدلهای زبانی در نقش قاضی، با روش رأیگیری جمعی و میزبانی ردهبندی زنده.
محصولات
Outlines-core 0.1.0: هوش مصنوعی در Rust و Python تولید خروجی ساختار یافته
تولید متنهای ساختار یافته با Outlines-core نسخه 0.1.0، پشتیبانی از Rust و Python، سرعت، ایمنی و قابلیت تعمیم بالا برای مدلهای زبانی بزرگ.
پژوهش
اصلاح خطای همپوشانی گراداینت در هوش مصنوعی
Hugging Face مشکل همپوشانی گراداینت در کتابخانهی Transformers را برطرف میکند تا آموزش مدلهای زبانی با پدیداردهی پایدارتر و دقیقتر همراه شود. این بهروزرسانی، دقت محاسباتی را بهبود میبخشد.
سختافزار
AMD EPYC نسل پنجم: دو برابر سرعت LLM و شتاب AI با Zen5
AMD نسل پنجم EPYC را به بازار معرفی کرد؛ با معماری Zen5 و حداکثر 192 هسته، سرعت اجرای مدلهای زبانی دو برابر میشود و شتاب AI در سرورها افزایش مییابد.
پژوهش
هوش مصنوعی در زبان چک: BenCzechMark و آزمون دقیق مدلهای LLM
بنچکمارک اولین مجموعه ارزیابی جامع برای مدلهای بزرگ زبان (LLM) در زبان چک را معرفی میکند. با ۵۰ کار و ۹ حوزه، عملکرد زبانپردازی را اینچنین بررسی میکند.
پژوهش
کوانتیزیشن افراطی هوش مصنوعی: بهینهسازی مدلهای زبانی به ۱.۵۸ بیت
تیم Hugging Face با ارائه فاینتیونینگ مدلهای زبانی در ۱.۵۸ بیت، روشی جدید برای کاهش شدید مصرف منابع و افزایش کارایی هوش مصنوعی در مقیاس گسترده معرفی کرد.
پژوهش
هوش مصنوعی در ابرداده «Meta Llama 3.1 405B» بر روی Vertex AI گوگل کلود
مدل Llama 3.1 405B Meta به صورت متنمحور و چندزبانه، امکان پیشبینیهای آنلاین در Vertex AI گوگل کلود را با سرعت و دقت بالا فراهم میکند.
پژوهش
هوش مصنوعی و آزمایش ناکام «Infini‑Attention»؛ چرا هنوز تلاش کنیم؟
استخراج و آزمایش مدل Infini‑Attention نشان داد که فشردهسازی حافظه مدل در طول زمینه طولانی باعث کاهش عملکرد میشود؛ این مقاله به بررسی دلایل این شکست و نگاهی به راههای جایگزین میپردازد.