پژوهش
هوش مصنوعی در Hugging Face: افزایش سرعت آموزش تا ۲ برابر با Flash Attention 2
Hugging Face با بهروزرسانی Flash Attention 2، امکان آموزش مدلهای هوش مصنوعی را تا دو برابر سرعت میدهد. با پیککردن نمونهها بدون پر کردن و بهرهگیری از DataCollatorWithFlattening، کارایی در حین حفظ کیفیت همواری به حداکثر میرسد.
پژوهش
هوش مصنوعی در ابرداده «Meta Llama 3.1 405B» بر روی Vertex AI گوگل کلود
مدل Llama 3.1 405B Meta به صورت متنمحور و چندزبانه، امکان پیشبینیهای آنلاین در Vertex AI گوگل کلود را با سرعت و دقت بالا فراهم میکند.
پژوهش
هوش مصنوعی و آزمایش ناکام «Infini‑Attention»؛ چرا هنوز تلاش کنیم؟
استخراج و آزمایش مدل Infini‑Attention نشان داد که فشردهسازی حافظه مدل در طول زمینه طولانی باعث کاهش عملکرد میشود؛ این مقاله به بررسی دلایل این شکست و نگاهی به راههای جایگزین میپردازد.
پژوهش
هوش مصنوعی بر روی حافظهٔ محلی: معرفی ggml و کاربردهای آن
بررسی جامع فریمورک open-source ggml که برای اجرای مدلهای ترنسفورمر به صورت on-device طراحی شده و متناسب با دستگاههای کممنبع است و ابزارهای توسعه
پژوهش
هوش مصنوعی در دسترس: فراخوانی ابزارها با API یکنواخت در وبسایتهای متنباز
کد یکپارچه فراخوانی ابزار توسط مدلهای هوش مصنوعی مختلف از جمله Mistral و Llama را در پیادهسازی چتها بدون نیاز به تغییرات خاص نشان میدهد؛ راهنمای کامل در Hugging Face.
اخبار
هوش مصنوعی: خرید ایکست هاوبی توسط هيوگینگ فیس و革新 مدیریت مدلها
هيوگینگ فیس با اکتفا به ایکست هاوبی، زیرساخت نگهداری داده و مدلهای هوش مصنوعی را با تکنولوژی gittop revolutionary ارتقا میدهد و مسیر توسعه پایدار منابع باز را هموار میکند.
مدلها
افزودن دادههای چندوجهی برای تصاویر اسناد با هوش مصنوعی
آشنایی با تکنیک جدید TextImage Augmentation از Hugging Face برای بهبود دقت مدلهای بینایی-زبانی در پردازش اسناد با متن بالا.
مدلها
کوانتایز دیفیوژن ترنسفورمر با Quanto: کاهش مصرف حافظه در هوش مصنوعی
با معرفی ابزارهای Quanto و Diffusers، اجرا کردن مدلهای سنگین تولید تصویر با هوش مصنوعی بر روی سختافزارهای محدودتر بدون افت عملکرد محسوس اکنون امکانپذیر است.