پژوهش
بهینهسازی صف درخواست در هوش مصنوعی: سروری هوشمند برای بارگذاری موازی مدلها
در این مقاله به چالشهای همزمانسازی دسترسی به مدلهای بزرگ زبان پرداخته و راهکارهای صفبندی عادلانه، مانع از بلوک شدن کاربران قدرتمند و بهینهسازی مصرف GPU میشود برای بهبود کارایی و بهرهوری شبکههای هوش مصنوعی.
اخبار
هوش مصنوعی در شتاب TGI بر روی Intel Gaudi: راهنمای جامع
TGI (Text Generation Inference) با یکپارچگی نوین در پردازندههای Intel Gaudi، سرعت و کارایی مدلهای بزرگ زبان را به طور چشمگیری بهبود میبخشد و اجرای مدلهای LLM را در زمان کمتری ممکن میسازد؛ راهنمای جامع برای پیادهسازی و بهرهبرداری.
مدلها
DeepSeek-V3 0324: هوش مصنوعی جدید با مجوز MIT برای کدنویسی و ریاضی
DeepSeek-V3 0324، مدل پیشرفته هوش مصنوعی برای کدنویسی و ریاضیات، با مجوز MIT روی Hugging Face عرضه شد. این نسخه بهبود یافته، قابلیتهای درک دستور و استدلال را ارتقا میدهد.
پژوهش
آموزش و بهینهسازی مدلهای بازرتبهبندی با هوش مصنوعی سنتنس ترنسفورمرز
با کتابخانه قدرتمند Sentence Transformers، نحوه آموزش و تنظیم دقیق مدلهای بازرتبهبندی (Reranker) را بیاموزید. این تکنیک کلیدی، جستجو و تولید متن در هوش مصنوعی را متحول میکند و به بهبود دقت و کارایی سیستمهای هوشمند کمک میکند.
محصولات
هاگینگ فیس: جهشی در تحلیل بیدرنگ عملکرد نقاط پایانی هوش مصنوعی
هاگینگ فیس داشبورد تحلیل عملکرد نقاط پایانی استنتاج خود را بهروزرسانی کرد. اکنون کاربران به معیارهای بیدرنگ، بارگذاری سریعتر دادهها و پایش دقیقتر برای استقرار بهینه مدلهای هوش مصنوعی دسترسی دارند.