سختافزار
هوش مصنوعی در هافینگ فیس: بهبود کارایی فشردهسازی Parquet
ههافینگ فیس با استفاده از تکنیک Content‑Defined Chunking، پارکتهای خود را بهصورت بهینهتری دودهاند و احتیاط در فضای ذخیرهسازی را کاهش داده. در این مقاله، جزئیات این بهبود را بررسی میکنیم.
پژوهش
هوش مصنوعی در Hugging Face: افزایش سرعت آموزش تا ۲ برابر با Flash Attention 2
Hugging Face با بهروزرسانی Flash Attention 2، امکان آموزش مدلهای هوش مصنوعی را تا دو برابر سرعت میدهد. با پیککردن نمونهها بدون پر کردن و بهرهگیری از DataCollatorWithFlattening، کارایی در حین حفظ کیفیت همواری به حداکثر میرسد.
پژوهش
هوش مصنوعی در ابرداده «Meta Llama 3.1 405B» بر روی Vertex AI گوگل کلود
مدل Llama 3.1 405B Meta به صورت متنمحور و چندزبانه، امکان پیشبینیهای آنلاین در Vertex AI گوگل کلود را با سرعت و دقت بالا فراهم میکند.
پژوهش
هوش مصنوعی: دیتاست Docmatix، ۲۴۰برابر بزرگتر از DocVQA برای پاسخگویی به سوالات تصویری در مستندات
در حالی که دیتاست DocVQA با ۱۰٬۰۰۰ تصویر کمبود داشت، Hugging Face دیتاستی تحت عنوان Docmatix را معرفی کرد؛ ۲.۴ میلیون تصویر و ۹.۵ میلیونپایهپاسخ برای پیشبینیهای عکس‑متن در مستندات PDF.
کسبوکار
همکاری عمیق میان هوش مصنوعی و ماکروسافت در Azure برای توسعهدهندگان
همکاری عمیق میان Hugging Face و Microsoft، Azure را برای توسعهدهندگان هوش مصنوعی گسترش میدهد؛ با مدلهای باز و امکانات جدید، ساخت و پیادهسازی AI سادهتر میشود.
اخبار
هوش مصنوعی در سرورهای AMD Instinct MI300: یک گام بزرگ از سوی Hugging Face
Hugging Face با همکاری AMD از پردازندههای گرافیکی Instinct MI300 برای اجرای مدلهای هوش مصنوعی بهره میبرد. بدون تغییر کد، در محیطهای محلی یا سرورهای ابری مانند Azure ND MI300x V5 کاملاً عملیاتی است.