محصولات
کانتینر جدید Hugging Face برای استقرار مدلهای هوش مصنوعی در SageMaker
هانگینگ فیس کانتینر استنتاج جدیدی برای استقرار مدلهای زبانی بزرگ در Amazon SageMaker معرفی کرد. این راهکار بر پایه Text Generation Inference عملکردی بهینه و امن ارائه میدهد.
مدلها
کوانتیزاسیون ۴-بیتی و QLoRA؛ گامی بلند در دسترسپذیری هوش مصنوعی
با همکاری Hugging Face و کتابخانه bitsandbytes، مدلهای زبانی بزرگ اکنون با دقت ۴-بیتی روی سختافزار معمولی اجرا شده و امکان آموزش تطبیقگرها با QLoRA فراهم شده است.
اخبار
همکاری Hugging Face و IBM برای سازندگان هوش مصنوعی در watsonx.ai
در همکاری جدید Hugging Face با IBM، استودیوی سازمانی watsonx.ai به سازندگان هوش مصنوعی امکان میدهد مدلهای متنباز را برای کسبوکارها شخصیسازی کنند.
مدلها
هوش مصنوعی مولد روی CPU؛ معرفی Q8-Chat برای سرورهای Xeon اینتل
با تکنیک کوانتیزاسیون، مدلهای زبانی بزرگ مثل Q8-Chat روی CPU اجرا میشوند؛ راهکاری مقرونبهصرفه برای کسبوکارها بدون نیاز به GPU.
مدلها
معماری RWKV؛ ترکیب هوش مصنوعی بازگشتی با توانمندی ترنسفورمر
معماری RWKV با ادغام شبکههای بازگشتی (RNN) و ترنسفورمر، راهکاری نوین و کارآمد برای مدلهای زبانی بزرگ ارائه میدهد. در این مقاله به بررسی ویژگیها، کاربردها و آینده آن میپردازیم.
پژوهش
هوش مصنوعی و تولید متن کمتأخیر: روش Assisted Generation تا ۱۰ برابر سریعتر
با Assisted Generation در هوش مصنوعی، تأخیر تولید متن در مدلهای زبانی بزرگ تا ۱۰ برابر کاهش مییابد؛ بدون افت کیفیت، برای پاسخگویی بلادرنگ.
پژوهش
هوش مصنوعی: آموزش فاینتیونینگ 20B مدل با RLHF روی کارت گرافیک 24GB
در این مقاله، به بررسی آموزش فاینتیونینگ 20B مدل زبانی با یادگیری تقویتی (RLHF) روی کارت گرافیک 24GB پرداختهایم و نکات کلیدی را در راهحلهای متنباز پوشش میدهیم.
مدلها
هوش مصنوعی بلاوم: نخستین مدل زبان چندملیتی ۱۷۶ میلیارد پارامتر
BLOOM، نهمین مدل زبانی بزرگ جهان، با ۱۷۶ میلیارد پارامتر، در ۴۶ زبان طبیعی و ۱۳ زبان برنامهنویسی کار میکند و دسترسی آزاد به دادهها و کدها را فراهم میآورد.
مدلها
آشنایی با یادگیری چندنمونهای و نقش GPT-Neo در هوش مصنوعی
در این مقاله، یادگیری چندنمونهای روشی نوین در هوش مصنوعی است و کاربردهای GPT-Neo و API شتاب یافته هافینگ فیس برای پیشبینی با مثالهای اندک بررسی میشود.