پژوهش
چگونه مدل 176B پارامتر BLOOM با استفاده از تکنیکهای پیشرفته آموزش یافت
BLOOM، مدل زبان ۱۷۶ میلیارد پارامتر، با ترکیبی از معماری Megatron‑DeepSpeed و تکنیکهای دروازه دادهای، توزیعی و حافظه‑بهینه آموزش یافت؛ دقت و سرعت حداکثری را در محیطهای منابع محدود ارائه میدهد.
مدلها
هوش مصنوعی بلاوم: نخستین مدل زبان چندملیتی ۱۷۶ میلیارد پارامتر
BLOOM، نهمین مدل زبانی بزرگ جهان، با ۱۷۶ میلیارد پارامتر، در ۴۶ زبان طبیعی و ۱۳ زبان برنامهنویسی کار میکند و دسترسی آزاد به دادهها و کدها را فراهم میآورد.
پژوهش
هوش مصنوعی در بزرگسازی مدل: بهرهبرداری از DeepSpeed و Accelerate
در این مقاله به بررسی نحوه استفاده از کتابخانه Accelerate در درک مدلهای بزرگ با DeepSpeed و جلوگیری از خطای حافظه پرداخته میشود. راهنمایی عملی و نکات کلیدی برای مهندسان هوش مصنوعی!
پژوهش
هوش مصنوعی در دنیای تصویرسازی: معرفی مدل آبا annotated diffusion
مدل Diffusion، یکی از پیشرفتهترین روشهای تولید تصویر، با کدهای آزاد و توضیحات کاربردی در وبلاگ استارتاپ هوش مصنوعی معرفی شد. این مدل چطور خاصیت تزریق نویز را برای خلق تصاویر خیرهکننده به کار میگیرد؟
مدلها
هوش مصنوعی در مقیاس بزرگ: PyTorch FSDP و Accelerate برای تسریع آموزش مدلهای عظیم
PyTorch FSDP با کتابخانه Accelerate موجب تسریع آموزش مدلهای عظیم میشود؛ بدون تغییر در کد، به راحتی مقیاس معادل Multi‑GPU و یادگیری بهسختافزار دست یابید.
مدلها
کلاسِیشن رأینامهها با هوش مصنوعی در Kili و AutoTrain هوش مصنوعی
Kili و AutoTrain اجازه میدهند رأینامههای متن را طبقهبندی کنید؛ برچسبگذاری سریع، یادگیری ماشین بدون کدنویسی و بروزرسانی مدل برای بهرهوری بالا.