مدلها
کوانتیزاسیون ۴-بیتی و QLoRA؛ گامی بلند در دسترسپذیری هوش مصنوعی
با همکاری Hugging Face و کتابخانه bitsandbytes، مدلهای زبانی بزرگ اکنون با دقت ۴-بیتی روی سختافزار معمولی اجرا شده و امکان آموزش تطبیقگرها با QLoRA فراهم شده است.
اخبار
حسابرسی امنیتی safetensors تأیید شد؛ فرمت پیشفرض ذخیره مدلهای هوش مصنوعی
حسابرسی امنیتی Trail of Bits امنیت کتابخانه safetensors را تأیید کرد و سه شرکت پیشرو، این فرمت را به استاندارد پیشفرض ذخیره مدلهای هوش مصنوعی تبدیل میکنند.
مدلها
هوش مصنوعی مولد روی CPU؛ معرفی Q8-Chat برای سرورهای Xeon اینتل
با تکنیک کوانتیزاسیون، مدلهای زبانی بزرگ مثل Q8-Chat روی CPU اجرا میشوند؛ راهکاری مقرونبهصرفه برای کسبوکارها بدون نیاز به GPU.
پژوهش
حذف دادههای تکراری در مقیاس بزرگ؛ راز آموزش هوش مصنوعی باکیفیت
پروژه BigCode با روشهای پیشرفته deduplication، دادههای تکراری را در مقیاس بزرگ حذف میکند تا مدلهای زبانی با کیفیت و امنیت بالاتری آموزش ببینند.
مدلها
معماری RWKV؛ ترکیب هوش مصنوعی بازگشتی با توانمندی ترنسفورمر
معماری RWKV با ادغام شبکههای بازگشتی (RNN) و ترنسفورمر، راهکاری نوین و کارآمد برای مدلهای زبانی بزرگ ارائه میدهد. در این مقاله به بررسی ویژگیها، کاربردها و آینده آن میپردازیم.
پژوهش
هوش مصنوعی و تولید متن کمتأخیر: روش Assisted Generation تا ۱۰ برابر سریعتر
با Assisted Generation در هوش مصنوعی، تأخیر تولید متن در مدلهای زبانی بزرگ تا ۱۰ برابر کاهش مییابد؛ بدون افت کیفیت، برای پاسخگویی بلادرنگ.
اخبار
همکاری دیتابریکس و هاگینگ فیس: آموزش مدلهای هوش مصنوعی تا ۴۰٪ سریعتر
دیتابریکس با افزودن پشتیبانی درجهیک اسپارک به هاگینگ فیس، آموزش و تنظیم مدلهای زبانی هوش مصنوعی را تا ۴۰ درصد سریعتر کرده و کد آن را متنباز منتشر میکند.