پژوهش
کوانتیزیشن افراطی هوش مصنوعی: بهینهسازی مدلهای زبانی به ۱.۵۸ بیت
تیم Hugging Face با ارائه فاینتیونینگ مدلهای زبانی در ۱.۵۸ بیت، روشی جدید برای کاهش شدید مصرف منابع و افزایش کارایی هوش مصنوعی در مقیاس گسترده معرفی کرد.
پژوهش
هوش مصنوعی در ابرداده «Meta Llama 3.1 405B» بر روی Vertex AI گوگل کلود
مدل Llama 3.1 405B Meta به صورت متنمحور و چندزبانه، امکان پیشبینیهای آنلاین در Vertex AI گوگل کلود را با سرعت و دقت بالا فراهم میکند.
پژوهش
هوش مصنوعی و آزمایش ناکام «Infini‑Attention»؛ چرا هنوز تلاش کنیم؟
استخراج و آزمایش مدل Infini‑Attention نشان داد که فشردهسازی حافظه مدل در طول زمینه طولانی باعث کاهش عملکرد میشود؛ این مقاله به بررسی دلایل این شکست و نگاهی به راههای جایگزین میپردازد.
پژوهش
هوش مصنوعی در دسترس: فراخوانی ابزارها با API یکنواخت در وبسایتهای متنباز
کد یکپارچه فراخوانی ابزار توسط مدلهای هوش مصنوعی مختلف از جمله Mistral و Llama را در پیادهسازی چتها بدون نیاز به تغییرات خاص نشان میدهد؛ راهنمای کامل در Hugging Face.
اخبار
پایان سرویس رایگان انفرونس با NVIDIA در হاجینگ فیس؛ جایگزین چیست؟
سرویس Serverless Inference مبتنی بر NVIDIA NIM در هاجینگ فیس از ۱۰ آوریل ۲۰۲۵ منسوخ شد. میتوانید با مرور این مقاله، جزئیات جایگزینها و پیامدهای آن برای مدلهای بازیابی اطلاعات را بیابید.
اخبار
هوش مصنوعی Llama 3.1 از Meta بهروز شد: 405B، 70B و 8B با چندزبانهیی
Meta و Hugging Face با انتشار Llama 3.1 نسخههای 8B، 70B و 405B را معرفی کردند؛ این مدلهای چندزبانه، حافظه بلند و دسترسی از طریق API ارائه میدهند.
سختافزار
هکهای هوش مصنوعی: اجرای Mistral 7B بر روی Core ML در WWDC 2024
در صدوی WWDC، اپل امکان اجرای مدل هوش مصنوعی Mistral 7B بر روی Apple Silicon را با Core ML معرفی کرد. این نوآوری دنیای مدلهای زبانی را به هم میکشد.
مدلها
یکپارچهسازی Hugging Face و KerasHub: گامی مهم برای هوش مصنوعی نویدبخش
لینک دیگیر با ادغام جدید Hugging Face و KerasHub، دسترسی به ۳۰۰ هزار مدل زبانی را ساده میکند و امکان آموزش و بهینهسازی سفارشی مدل در محیط Keras را فراهم میآورد.