مدلها
هوش مصنوعی: Meta معرفی Llama 2 بهصورت متنباز با امکانات فراوان
Meta در ژوئیهٔ 2023 مدل Llama 2 را بهصورت متنباز و مجاز باز کرده؛ سه مدل پایه و سه نسخه بهینهشده در اکوسیستم Hugging Face کامل ادغام شدند.
محصولات
کانتینر جدید Hugging Face برای استقرار مدلهای هوش مصنوعی در SageMaker
هانگینگ فیس کانتینر استنتاج جدیدی برای استقرار مدلهای زبانی بزرگ در Amazon SageMaker معرفی کرد. این راهکار بر پایه Text Generation Inference عملکردی بهینه و امن ارائه میدهد.
مدلها
کوانتیزاسیون ۴-بیتی و QLoRA؛ گامی بلند در دسترسپذیری هوش مصنوعی
با همکاری Hugging Face و کتابخانه bitsandbytes، مدلهای زبانی بزرگ اکنون با دقت ۴-بیتی روی سختافزار معمولی اجرا شده و امکان آموزش تطبیقگرها با QLoRA فراهم شده است.
اخبار
همکاری Hugging Face و IBM برای سازندگان هوش مصنوعی در watsonx.ai
در همکاری جدید Hugging Face با IBM، استودیوی سازمانی watsonx.ai به سازندگان هوش مصنوعی امکان میدهد مدلهای متنباز را برای کسبوکارها شخصیسازی کنند.
مدلها
هوش مصنوعی مولد روی CPU؛ معرفی Q8-Chat برای سرورهای Xeon اینتل
با تکنیک کوانتیزاسیون، مدلهای زبانی بزرگ مثل Q8-Chat روی CPU اجرا میشوند؛ راهکاری مقرونبهصرفه برای کسبوکارها بدون نیاز به GPU.
پژوهش
حذف دادههای تکراری در مقیاس بزرگ؛ راز آموزش هوش مصنوعی باکیفیت
پروژه BigCode با روشهای پیشرفته deduplication، دادههای تکراری را در مقیاس بزرگ حذف میکند تا مدلهای زبانی با کیفیت و امنیت بالاتری آموزش ببینند.
مدلها
معماری RWKV؛ ترکیب هوش مصنوعی بازگشتی با توانمندی ترنسفورمر
معماری RWKV با ادغام شبکههای بازگشتی (RNN) و ترنسفورمر، راهکاری نوین و کارآمد برای مدلهای زبانی بزرگ ارائه میدهد. در این مقاله به بررسی ویژگیها، کاربردها و آینده آن میپردازیم.
پژوهش
هوش مصنوعی و تولید متن کمتأخیر: روش Assisted Generation تا ۱۰ برابر سریعتر
با Assisted Generation در هوش مصنوعی، تأخیر تولید متن در مدلهای زبانی بزرگ تا ۱۰ برابر کاهش مییابد؛ بدون افت کیفیت، برای پاسخگویی بلادرنگ.
اخبار
دستیار کدنویسی هوش مصنوعی متنباز؛ معرفی StarCoder و StarChat
در این مقاله به معرفی StarCoder و StarChat به عنوان دستیاران کدنویسی متنباز میپردازیم و روش آموزش آنها با DeepSpeed و چالشهای پیش رو را بررسی میکنیم.