مدلها
Gemma 3n: مدل هوش مصنوعی چندرسانهای منبعباز برای دستگاههای شخصی
Gemma 3n، یک مدل هوش مصنوعی چندرسانهای و کاملاً منبعباز است که در اپلیکیشنهای on‑device و با کارایی بالا بهکار میرود. متصل به Hugging Face، این مودل امکان اجرای طبیعی در دستگاههای موبایل و لپتاپ را فراهم میکند.
پژوهش
هوش مصنوعی: چگونه پرامپتهای طولانی صفهای پیشبینی را مسدود میکنند
در این مقاله به بررسی چالشهای پرامپتهای طولانی در مدلهای زبان بزرگ و راهحلهای پیشنهادی برای بهبود تأخیر و کارایی پرداختهایم.
پژوهش
هوش مصنوعی بدون GPU: چگونگی افزایش کارایی با vLLM هممحور در TRL
این مقاله روش Co‑Located vLLM در TRL را معرفی و نشان میدهد چگونه با استفاده از GPUهای مشترک، کارایی مدلهای LLM را بدون هزینه اضافی به حداکثر میرساند.
مدلها
هوش مصنوعی Falcon‑H1: مدلهای هوشمند ترکیبی با کارایی بینظیر
ماکزیم چند مدل Falcon‑H1 را معرفی کنید: ترکیبی از معماری هیبریدی ترنسفورمر و مدل فضای حالت، با عملکرد بالا در زبان، کارایی اندیشمندی، و بازتابپذیری در حجم متن بزرگ.
پژوهش
بهینهسازی صف درخواست در هوش مصنوعی: سروری هوشمند برای بارگذاری موازی مدلها
در این مقاله به چالشهای همزمانسازی دسترسی به مدلهای بزرگ زبان پرداخته و راهکارهای صفبندی عادلانه، مانع از بلوک شدن کاربران قدرتمند و بهینهسازی مصرف GPU میشود برای بهبود کارایی و بهرهوری شبکههای هوش مصنوعی.
پژوهش
هوش مصنوعی در جریان: مهاجرت هگفیچ به Infisical برای مدیریت رموز
پس از گذر از AWS به چندین ابر، هگفیچ به Infisical مهاجرت کرد تا مدیریت رموز اوپنسورس در زیرساخت هوش مصنوعی را بهبود بخشد و امنیت و کارایی را برتر کند.
اخبار
هوش مصنوعی در شتاب TGI بر روی Intel Gaudi: راهنمای جامع
TGI (Text Generation Inference) با یکپارچگی نوین در پردازندههای Intel Gaudi، سرعت و کارایی مدلهای بزرگ زبان را به طور چشمگیری بهبود میبخشد و اجرای مدلهای LLM را در زمان کمتری ممکن میسازد؛ راهنمای جامع برای پیادهسازی و بهرهبرداری.
پژوهش
آموزش و بهینهسازی مدلهای بازرتبهبندی با هوش مصنوعی سنتنس ترنسفورمرز
با کتابخانه قدرتمند Sentence Transformers، نحوه آموزش و تنظیم دقیق مدلهای بازرتبهبندی (Reranker) را بیاموزید. این تکنیک کلیدی، جستجو و تولید متن در هوش مصنوعی را متحول میکند و به بهبود دقت و کارایی سیستمهای هوشمند کمک میکند.