مدلها
بهینهسازی و استقرار مدلهای هوش مصنوعی با OpenVINO و Optimum-Intel
محبوبترین روش برای استقرار مدلهای ترنسفورمر در لبه (Edge) با استفاده از ابزارهای Optimum-Intel و OpenVINO GenAI را که بهرهوری را افزایش میدهد، بررسی میکنیم.
اخبار
هوش مصنوعی در Hugging Face با TruffleHog بهبود امنیت کدها
در این خبر، Hugging Face همکاری خود را با ابزار متنباز TruffleHog اعلام کرده؛ هدف از این ادغام شناسایی و حذف اطلاعات مخفی در مخازن کد برای جلوگیری از آسیبهای امنیتی.
پژوهش
بهینهسازی دیتاستهای روباتیک با رمزگذاری ویدئو: هوش مصنوعی بدون پیچیدگی
مدیریت دیتاست روباتیک با رمزگذاری ویدئو، هزینه ذخیرهسازی را تا 95٪ کاهش میدهد و سرعت پردازش را ارتقا میبخشد؛ این نوآوری در پژوهشهای هوش مصنوعی راهنمایی استاندارد میشود.
پژوهش
هوش مصنوعی بر روی حافظهٔ محلی: معرفی ggml و کاربردهای آن
بررسی جامع فریمورک open-source ggml که برای اجرای مدلهای ترنسفورمر به صورت on-device طراحی شده و متناسب با دستگاههای کممنبع است و ابزارهای توسعه
مدلها
کوانتایز دیفیوژن ترنسفورمر با Quanto: کاهش مصرف حافظه در هوش مصنوعی
با معرفی ابزارهای Quanto و Diffusers، اجرا کردن مدلهای سنگین تولید تصویر با هوش مصنوعی بر روی سختافزارهای محدودتر بدون افت عملکرد محسوس اکنون امکانپذیر است.