پژوهش
هوش مصنوعی با TensorFlow و XLA: تولید متن ۱۰۰ برابر سریعتر
در این مقاله، روش تولید متن پیشرفته با ترکیب TensorFlow و XLA بررسی میشود؛ این تکنولوژی سرعت را تا ۱۰۰× افزایش داده و حتی از پایتورچ پیشی میگیرد، با امکان دسترسی وسیع و بهرهبرداری سریعتر مدلهای زبانی.
پژوهش
چگونه مدل 176B پارامتر BLOOM با استفاده از تکنیکهای پیشرفته آموزش یافت
BLOOM، مدل زبان ۱۷۶ میلیارد پارامتر، با ترکیبی از معماری Megatron‑DeepSpeed و تکنیکهای دروازه دادهای، توزیعی و حافظه‑بهینه آموزش یافت؛ دقت و سرعت حداکثری را در محیطهای منابع محدود ارائه میدهد.
پژوهش
هوش مصنوعی در یادگیری فعال: کاربرد AutoNLP و Prodigy برای بهبود مدلها
پیشتردارین یادگیری فعال در هوش مصنوعی، با ترکیب AutoNLP هشدار گرفت. این راهنما نشان میدهد چگونه پارامترهای خود را با Prodigy ساده و سریع بهینه کنید. باز
پژوهش
کیفیت جملات هوش مصنوعی بهوسیله ۱ میلیارد جفت آموزش داده میشود
در این پست، هوش مصنوعی با استفاده از ۱ میلیارد جفت آموزش، مدلگذاری جملات را به سطح جدیدی میبرد؛ نوشتن، ترکیب و ارزیابی در این مقاله بررسی میشود.
محصولات
ترکیب مدلهای Hugging Face با Gradio 2.0؛ دموی هوش مصنوعی ساده شد
با Gradio 2.0 و همافزایی با Hugging Face، ساخت دمو و رابط گرافیکی برای مدلهای هوش مصنوعی بدون نیاز به کدنویسی پیچیده ممکن میشود.
محصولات
هوش مصنوعی با Accelerate: آموزش مدلهای PyTorch بدون پیچیدگی
کتابخانه Accelerate از Hugging Face به توسعهدهندگان امکان میدهد اسکریپتهای خام PyTorch را روی هر دستگاهی با پشتیبانی از آموزش توزیعشده و دقت ترکیبی اجرا کنند.
مدلها
هوش مصنوعی با RAG و Ray: افزایش سرعت بازیابی متن تا ۲ برابر
با ترکیب RAG و Ray، سرعت بازیابی اسناد در مدلهای زبانی هوش مصنوعی تا ۲ برابر افزایش یافته و مقیاسپذیری تنظیم دقیق توزیعشده نیز بهطور چشمگیری بهبود مییابد.
اخبار
چگونه با هوش مصنوعی سرعت استنتاج ترنسفورمرها را ۱۰۰ برابر کردیم؟
هافینگ فیس با ترکیب تکنیک های بهینه سازی و کامپایلرهای تخصصی، استنتاج ترنسفورمرها را برای مشتریان API خود ۱۰۰ برابر سریع تر کرد. در این مقاله بررسی می کنیم.