پژوهش
هوش مصنوعی: چگونه پرامپتهای طولانی صفهای پیشبینی را مسدود میکنند
در این مقاله به بررسی چالشهای پرامپتهای طولانی در مدلهای زبان بزرگ و راهحلهای پیشنهادی برای بهبود تأخیر و کارایی پرداختهایم.
مدلها
فِیترلس AI: جدیداً ارائهدهنده هوش مصنوعی بدون سرور در هاجینگ فیس
فِیترلس AI بهعنوان ارائهدهنده بدون سرور در هاجینگ فیس معرفی شد؛ گامی مهم در گسترش دسترسی سریع، جامع و مقرونبهصرفه به مدلهای متن و گفتار.
پژوهش
بهینهسازی صف درخواست در هوش مصنوعی: سروری هوشمند برای بارگذاری موازی مدلها
در این مقاله به چالشهای همزمانسازی دسترسی به مدلهای بزرگ زبان پرداخته و راهکارهای صفبندی عادلانه، مانع از بلوک شدن کاربران قدرتمند و بهینهسازی مصرف GPU میشود برای بهبود کارایی و بهرهوری شبکههای هوش مصنوعی.
محصولات
هوش مصنوعی در آمازون بیدروک: Hugging Face مدلهای باز در بازار جدید
استانداردی برای توسعه هوش مصنوعی در بیدروک آمازون با بهکارگیری مدلهای باز همگام با Hugging Face، در این مقاله به امکانات، قیمت و راهکارهای پیادهسازی پرداخته شده است.
سختافزار
گوگل TPU به هافِینگ فِیج معرفی شد: سرعت و مقیاسپذیری هوش مصنوعی نوین
هفتتویهای هافِینگ فِیج به بهرهگیری از TPUs گوگل Cloud پرداخته و امکانات جدیدی برای گسترش مدلهای هوش مصنوعی فراهم میکند؛ توضیحات کامل در این خبر.