پژوهش
بهینهسازی صف درخواست در هوش مصنوعی: سروری هوشمند برای بارگذاری موازی مدلها
در این مقاله به چالشهای همزمانسازی دسترسی به مدلهای بزرگ زبان پرداخته و راهکارهای صفبندی عادلانه، مانع از بلوک شدن کاربران قدرتمند و بهینهسازی مصرف GPU میشود برای بهبود کارایی و بهرهوری شبکههای هوش مصنوعی.
پژوهش
هوش مصنوعی در جریان: مهاجرت هگفیچ به Infisical برای مدیریت رموز
پس از گذر از AWS به چندین ابر، هگفیچ به Infisical مهاجرت کرد تا مدیریت رموز اوپنسورس در زیرساخت هوش مصنوعی را بهبود بخشد و امنیت و کارایی را برتر کند.
اخبار
هوش مصنوعی در شتاب TGI بر روی Intel Gaudi: راهنمای جامع
TGI (Text Generation Inference) با یکپارچگی نوین در پردازندههای Intel Gaudi، سرعت و کارایی مدلهای بزرگ زبان را به طور چشمگیری بهبود میبخشد و اجرای مدلهای LLM را در زمان کمتری ممکن میسازد؛ راهنمای جامع برای پیادهسازی و بهرهبرداری.
مدلها
DeepSeek-V3 0324: هوش مصنوعی جدید با مجوز MIT برای کدنویسی و ریاضی
DeepSeek-V3 0324، مدل پیشرفته هوش مصنوعی برای کدنویسی و ریاضیات، با مجوز MIT روی Hugging Face عرضه شد. این نسخه بهبود یافته، قابلیتهای درک دستور و استدلال را ارتقا میدهد.
پژوهش
آموزش و بهینهسازی مدلهای بازرتبهبندی با هوش مصنوعی سنتنس ترنسفورمرز
با کتابخانه قدرتمند Sentence Transformers، نحوه آموزش و تنظیم دقیق مدلهای بازرتبهبندی (Reranker) را بیاموزید. این تکنیک کلیدی، جستجو و تولید متن در هوش مصنوعی را متحول میکند و به بهبود دقت و کارایی سیستمهای هوشمند کمک میکند.
محصولات
هاگینگ فیس: جهشی در تحلیل بیدرنگ عملکرد نقاط پایانی هوش مصنوعی
هاگینگ فیس داشبورد تحلیل عملکرد نقاط پایانی استنتاج خود را بهروزرسانی کرد. اکنون کاربران به معیارهای بیدرنگ، بارگذاری سریعتر دادهها و پایش دقیقتر برای استقرار بهینه مدلهای هوش مصنوعی دسترسی دارند.