اخبار
هوش مصنوعی و Cloudflare: FastRTC برای ارتباط صوتی و تصویری در لحظه
همکاری Hugging Face و Cloudflare با FastRTC، راه حلی سریع و بدون پیچیدگی برای انتقال صدا و تصویر در زمان واقعی را ارائه میدهد؛ شبکه ۳۳۵ سرور TURN در سراسر جهان، تجربهای بینظیر را تضمین میکند.
محصولات
گسترش Gradio: رسیدن به ۱ میلیون کاربر در دنیای هوش مصنوعی
Gradio، کتابخانهی یکتای پایتون، بیش از ۱ میلیون توسعه‑دنده را در هر ماه قادر میسازد اپلیکیشنهای هوش مصنوعی ساده و سریع بسازند؛ از نحوهی رشد، امکانات و نمونههای کاربردی تا نکات کلیدی برای آیندهی این ابزار.
پژوهش
بهینهسازی صف درخواست در هوش مصنوعی: سروری هوشمند برای بارگذاری موازی مدلها
در این مقاله به چالشهای همزمانسازی دسترسی به مدلهای بزرگ زبان پرداخته و راهکارهای صفبندی عادلانه، مانع از بلوک شدن کاربران قدرتمند و بهینهسازی مصرف GPU میشود برای بهبود کارایی و بهرهوری شبکههای هوش مصنوعی.
پژوهش
هوش مصنوعی در جریان: مهاجرت هگفیچ به Infisical برای مدیریت رموز
پس از گذر از AWS به چندین ابر، هگفیچ به Infisical مهاجرت کرد تا مدیریت رموز اوپنسورس در زیرساخت هوش مصنوعی را بهبود بخشد و امنیت و کارایی را برتر کند.
اخبار
هوش مصنوعی در شتاب TGI بر روی Intel Gaudi: راهنمای جامع
TGI (Text Generation Inference) با یکپارچگی نوین در پردازندههای Intel Gaudi، سرعت و کارایی مدلهای بزرگ زبان را به طور چشمگیری بهبود میبخشد و اجرای مدلهای LLM را در زمان کمتری ممکن میسازد؛ راهنمای جامع برای پیادهسازی و بهرهبرداری.