مدلها
بهینهسازی و استقرار مدلهای هوش مصنوعی با OpenVINO و Optimum-Intel
محبوبترین روش برای استقرار مدلهای ترنسفورمر در لبه (Edge) با استفاده از ابزارهای Optimum-Intel و OpenVINO GenAI را که بهرهوری را افزایش میدهد، بررسی میکنیم.
محصولات
ابزارهای اجتماعی هوش مصنوعی جدید HuggingChat تواناییهای چندوجهی آن را بهبود میبخشد
HuggingChat ابزارهای اجتماعی را معرفی کرد که به کاربران اجازه میدهد هر Space دلخواه را به ابزاری برای مدلهای هوش مصنوعی تبدیل کنند و تواناییهای چندوجهی چتبات را گسترش دهند.
اخبار
هوش مصنوعی در Hugging Face با TruffleHog بهبود امنیت کدها
در این خبر، Hugging Face همکاری خود را با ابزار متنباز TruffleHog اعلام کرده؛ هدف از این ادغام شناسایی و حذف اطلاعات مخفی در مخازن کد برای جلوگیری از آسیبهای امنیتی.
محصولات
هوش مصنوعی: ۵ ابزار کمقلتی در Hugging Face که نباید فراموش شود
آرشیو Hugging Face پربار ابزارهای کمانتشار دارد؛ در این مقاله پنج ابزار کمقلتی معرفی میشود و کاربردهای عملی و راهنمایی برای استفاده در پروژههای هوش مصنوعی آورده شده است.
پژوهش
هوش مصنوعی بر روی حافظهٔ محلی: معرفی ggml و کاربردهای آن
بررسی جامع فریمورک open-source ggml که برای اجرای مدلهای ترنسفورمر به صورت on-device طراحی شده و متناسب با دستگاههای کممنبع است و ابزارهای توسعه
پژوهش
هوش مصنوعی در دسترس: فراخوانی ابزارها با API یکنواخت در وبسایتهای متنباز
کد یکپارچه فراخوانی ابزار توسط مدلهای هوش مصنوعی مختلف از جمله Mistral و Llama را در پیادهسازی چتها بدون نیاز به تغییرات خاص نشان میدهد؛ راهنمای کامل در Hugging Face.
مدلها
کوانتایز دیفیوژن ترنسفورمر با Quanto: کاهش مصرف حافظه در هوش مصنوعی
با معرفی ابزارهای Quanto و Diffusers، اجرا کردن مدلهای سنگین تولید تصویر با هوش مصنوعی بر روی سختافزارهای محدودتر بدون افت عملکرد محسوس اکنون امکانپذیر است.