پژوهش
هوش مصنوعی در ریاضیات: Kimina-Prover و جستجوی RL در زمان اجرا
Kimina-Prover، یک الگوریتم هوش مصنوعی مبتنی بر جستجوی RL در زمان اجرا، میتواند مدلهای بزرگ یادگیری رسمی را بهینه کند و خطاهای ریاضی را اصلاح نماید.
پژوهش
هوش مصنوعی در Liger GRPO: تقویت TRL با بهینهسازی حافظه و مقیاسپذیری
در این خبر، Liger GRPO با کاهش مصرف حافظه ۴۰٪ و افزودن امکانات FSDP و PEFT، آموزش RL را برای مدلهای بزرگ بهینه میکند و به تسهیل مقیاسپذیری در چند گپ تبدیل میشود.
پژوهش
بهینهسازی صف درخواست در هوش مصنوعی: سروری هوشمند برای بارگذاری موازی مدلها
در این مقاله به چالشهای همزمانسازی دسترسی به مدلهای بزرگ زبان پرداخته و راهکارهای صفبندی عادلانه، مانع از بلوک شدن کاربران قدرتمند و بهینهسازی مصرف GPU میشود برای بهبود کارایی و بهرهوری شبکههای هوش مصنوعی.
اخبار
هوش مصنوعی در شتاب TGI بر روی Intel Gaudi: راهنمای جامع
TGI (Text Generation Inference) با یکپارچگی نوین در پردازندههای Intel Gaudi، سرعت و کارایی مدلهای بزرگ زبان را به طور چشمگیری بهبود میبخشد و اجرای مدلهای LLM را در زمان کمتری ممکن میسازد؛ راهنمای جامع برای پیادهسازی و بهرهبرداری.
پژوهش
هوش مصنوعی به عنوان داور در اپ RAG: راهکار Green برای کشاورزان کوچک
در این مقاله، نحوه استفاده از مدلهای بزرگی به عنوان داور در یک پلتفرم RAG برای ارتقاء دسترسی به اطلاعات دقیق و سریع به کشاورزان کوچک بررسی میشود.
پژوهش
هوش مصنوعی در زبان چک: BenCzechMark و آزمون دقیق مدلهای LLM
بنچکمارک اولین مجموعه ارزیابی جامع برای مدلهای بزرگ زبان (LLM) در زبان چک را معرفی میکند. با ۵۰ کار و ۹ حوزه، عملکرد زبانپردازی را اینچنین بررسی میکند.
سختافزار
Hugging Face راهاندازی endpointهای هوش مصنوعی بر روی AWS Inferentia2
پلتفرم Hugging Face با معرفی endpointهای جدید مبتنی بر AWS Inferentia2 امکان قیمتپذیر و سریعتر اجرای بیش از 100,000 مدل هوش مصنوعی را فراهم کرده است.
مدلها
هوش مصنوعی: کشف حافظه کوانتیزه برای تولید متن طولانی در مدلهای بزرگ
کاهش مصرف حافظه در تولید متن طولانی با کوانتیزه کردن KV Cache، راهحلی قابل تنظیم برای مدلهای بزرگ – معیارهای عملکرد و کیفیت بدون کاهش قابل توجهی در خروجی.
پژوهش
لیستبررسی هوش مصنوعی عربی: پیشرفت و شفافسازی مدلهای زبان عربی
یک صفحهجدید از هافینگ فیس کتاب فهرست برتری مدلهای بزرگ زبان عربی را معرفی میکند؛ راهحلی باز برای مقایسه و پیشرفت در هوش مصنوعی عربی.