سختافزار
Transformers.js v3: پشتیبانی از WebGPU و مدلهای جدید هوش مصنوعی
نسخهٔ جدید Transformers.js با ارایه پشتیبانی از WebGPU، مدلهای تکستوک، دقتهای جدید کوانتایزیشن و قابلیتهای روبهریزی در مرورگرهای مدرن، سطرهای کدنویسی را به سطح بالاتری میبرد.
سختافزار
AMD EPYC نسل پنجم: دو برابر سرعت LLM و شتاب AI با Zen5
AMD نسل پنجم EPYC را به بازار معرفی کرد؛ با معماری Zen5 و حداکثر 192 هسته، سرعت اجرای مدلهای زبانی دو برابر میشود و شتاب AI در سرورها افزایش مییابد.
سختافزار
هوش مصنوعی در هافینگ فیس: بهبود کارایی فشردهسازی Parquet
ههافینگ فیس با استفاده از تکنیک Content‑Defined Chunking، پارکتهای خود را بهصورت بهینهتری دودهاند و احتیاط در فضای ذخیرهسازی را کاهش داده. در این مقاله، جزئیات این بهبود را بررسی میکنیم.
سختافزار
هکهای هوش مصنوعی: اجرای Mistral 7B بر روی Core ML در WWDC 2024
در صدوی WWDC، اپل امکان اجرای مدل هوش مصنوعی Mistral 7B بر روی Apple Silicon را با Core ML معرفی کرد. این نوآوری دنیای مدلهای زبانی را به هم میکشد.
سختافزار
گوگل TPU به هافِینگ فِیج معرفی شد: سرعت و مقیاسپذیری هوش مصنوعی نوین
هفتتویهای هافِینگ فِیج به بهرهگیری از TPUs گوگل Cloud پرداخته و امکانات جدیدی برای گسترش مدلهای هوش مصنوعی فراهم میکند؛ توضیحات کامل در این خبر.
سختافزار
Hugging Face راهاندازی endpointهای هوش مصنوعی بر روی AWS Inferentia2
پلتفرم Hugging Face با معرفی endpointهای جدید مبتنی بر AWS Inferentia2 امکان قیمتپذیر و سریعتر اجرای بیش از 100,000 مدل هوش مصنوعی را فراهم کرده است.
سختافزار
اجرای هوش مصنوعی مولد روی لپتاپ: چتبات Phi-2 با پردازنده متئور لیک اینتل
هاگینگ فیس و اینتل اجرای مدل هوش مصنوعی Phi-2 را روی لپتاپهای مجهز به پردازنده متئور لیک ممکن کردهاند؛ گامی برای استنتاج محلی مدلهای زبانی بزرگ.
سختافزار
AMD و 🤗: تسریع LLMها بهصورت Out-of-the-Box با کارت گرافیک AMD
خبر جدید اینستیتوت هوش مصنوعی 🤗 و AMD، امکان اجرای سریع مدلهای زبانی بر کارتهای گرافیک MI300 را بدون نیاز به تغییر در کد، فراهم میکند.
سختافزار
هوش مصنوعی: سرعت جاندادانهای برای Llama 2 روی AWS Inferentia2
AWS Inferentia2 با همکاری Hugging Face و optimum‑neuron، Llama 2 را برای تولید متن به سرعتی بیسابقه بر روی سرورها میشکند. در این مقاله نقشه راه و نتایج آزمایشات را بررسی میکنیم.
سختافزار
هوش مصنوعی بر روی Cloud TPU v5e: سرعتبخشی SDXL با JAX
کشف روش جدیدی برای پردازش مدل Stable Diffusion XL با بهرهگیری از JAX بر روی Google Cloud TPU v5e؛ بهبود کارایی، کاهش هزینه و افزایش سرعت تولید تصویر عالی در شرایط واقعی.