محصولات
هوش مصنوعی: ۵ ابزار کمقلتی در Hugging Face که نباید فراموش شود
آرشیو Hugging Face پربار ابزارهای کمانتشار دارد؛ در این مقاله پنج ابزار کمقلتی معرفی میشود و کاربردهای عملی و راهنمایی برای استفاده در پروژههای هوش مصنوعی آورده شده است.
پژوهش
هوش مصنوعی در Hugging Face: افزایش سرعت آموزش تا ۲ برابر با Flash Attention 2
Hugging Face با بهروزرسانی Flash Attention 2، امکان آموزش مدلهای هوش مصنوعی را تا دو برابر سرعت میدهد. با پیککردن نمونهها بدون پر کردن و بهرهگیری از DataCollatorWithFlattening، کارایی در حین حفظ کیفیت همواری به حداکثر میرسد.
پژوهش
هوش مصنوعی در ابرداده «Meta Llama 3.1 405B» بر روی Vertex AI گوگل کلود
مدل Llama 3.1 405B Meta به صورت متنمحور و چندزبانه، امکان پیشبینیهای آنلاین در Vertex AI گوگل کلود را با سرعت و دقت بالا فراهم میکند.
پژوهش
هوش مصنوعی و آزمایش ناکام «Infini‑Attention»؛ چرا هنوز تلاش کنیم؟
استخراج و آزمایش مدل Infini‑Attention نشان داد که فشردهسازی حافظه مدل در طول زمینه طولانی باعث کاهش عملکرد میشود؛ این مقاله به بررسی دلایل این شکست و نگاهی به راههای جایگزین میپردازد.
پژوهش
هوش مصنوعی بر روی حافظهٔ محلی: معرفی ggml و کاربردهای آن
بررسی جامع فریمورک open-source ggml که برای اجرای مدلهای ترنسفورمر به صورت on-device طراحی شده و متناسب با دستگاههای کممنبع است و ابزارهای توسعه
پژوهش
هوش مصنوعی در دسترس: فراخوانی ابزارها با API یکنواخت در وبسایتهای متنباز
کد یکپارچه فراخوانی ابزار توسط مدلهای هوش مصنوعی مختلف از جمله Mistral و Llama را در پیادهسازی چتها بدون نیاز به تغییرات خاص نشان میدهد؛ راهنمای کامل در Hugging Face.
پژوهش
هوش مصنوعی با مدل Falcon Mamba: نخستین 7B بدون دقت متن کامل
مدلی نوآورانه و بدون دقت (attention‑free) با 7 میلیارد پارامتر، Falcon Mamba را که توسط تیم نوآوری تکنولوژی در ابوظبی پردازش کردهایم، در همین هفته معرفی میکنیم و کاربردهای آن را بررسی میکنیم.