سختافزار
هوش مصنوعی روی Core Ultra: تسریع مدل Qwen3‑8B با طراحی پوشه عمقبرش
در سال ۲۰۲۵، مهندسان Intel و تیم Qwen3‑8B توانستند با استفاده از OpenVINO.GenAI و روش پیشبینی تخیلاتی، سرعت نسل مدل عاملانه خود را تا ۱.۴ برابر افزایش دهند. این دستاورد، گامی مهم در جهت بهرهبرداری سریعتر هوش مصنوعی بر روی سختافزارهای خردهگرای Intel است.
سختافزار
هوش مصنوعی: سرعت جاندادانهای برای Llama 2 روی AWS Inferentia2
AWS Inferentia2 با همکاری Hugging Face و optimum‑neuron، Llama 2 را برای تولید متن به سرعتی بیسابقه بر روی سرورها میشکند. در این مقاله نقشه راه و نتایج آزمایشات را بررسی میکنیم.
پژوهش
همینگ فیس و ONNX Runtime: ۱۳۰,۰۰۰ مدل هوش مصنوعی را دو برنده میکنیم
در این مقاله به بررسی راهکار ONNX Runtime میپردازیم که از طریق آن میتوان بیش از ۱۳۰،۰۰۰ مدلّی Hugging Face را بهینهسازی و سرعت بخشی کرد. این نوآوری، گام مهمی در ارائهٔ دسترسی به هوش مصنوعی در سطح جهان است.
مدلها
AudioLDM 2: سرعت و کیفیت در تولید صدا با هوش مصنوعی در سیستمهای آموزشی
AudioLDM 2 بهنرمافزار Hugging Face معرفی شد، با بهینهسازیهای Flash Attention، نصف‑دقت، Torch Compile و تنظیمات شیودار، زمان تولید صدا را تا 10× کاهش میدهد.
محصولات
همه چیز دربارهی شتابدهی مدلهای هوش مصنوعی با OpenVINO و 🤗 Optimum
بهدنبال بهبود سرعت مدلهای هوش مصنوعی؟ با یکپارچگی 🤗 Optimum Intel و OpenVINO، میتوانید مدلهای Transformers را در پردازندۀ Intel بهصورت سریع و کمیادگیری راهاندازی کنید.
محصولات
AutoTrain: طبقهبندی تصویر بدون کدنویسی با هوش مصنوعی در Hugging Face
AutoTrain بر پایهی Hugging Face مدلهای تشخیص تصاویر را بدون کدنویسی آموزش میدهد و به کاربران اجازه میدهد با انتخاب خودکار مدل بهترین را انتخاب کنند. با بهرهگیری از AutoTrain میتوانید به سرعت مدلهایی با دقت بالا ایجاد کنید که در مسایل روزمره کاربردی هستند.
سختافزار
همکاری هوش مصنوعی: Hugging Face و Graphcore برای تسریع ترنسفورمرها با IPU
پلتفرم جدید Graphcore IPU در همکاری با Hugging Face سرعت اجرای مدلهای ترنسفورمر پیشرفته را بدون کدنویسی پیچیده، در مقیاس تولید، افزایش داده و به توسعهدهندگان امکان میدهد بهسرعت مدلهای برتر را مستقر کنند.
مدلها
افزایش ۱۰ درصدی سرعت مدلهای TensorFlow در ترنسفورمرز هوگینگ فیس
هوگینگ فیس با بهینهسازی مدل BERT در کتابخانه ترنسفورمرز، عملکرد TensorFlow Serving را تا ۱۰ درصد نسبت به پیادهسازی رسمی گوگل بهبود بخشید و سرعت را نسبت به نسخه قبلی دو برابر کرد.
مدلها
بهینهسازی مدلهای زبانی با ماتریسهای اسپارس بلوکی در هوش مصنوعی
آشنایی با pytorch_block_sparse، ابزار جدید Hugging Face برای کاهش حجم و افزایش سرعت مدلهای زبانی با بهرهگیری از ماتریسهای اسپارس بلوکی.