اخبار
همکاری استراتژیک آمازون و هافینگ فیس برای سادهسازی هوش مصنوعی
همکاری جدید آمازون و هافینگ فیس، آموزش و استقرار مدلهای پیشرفته هوش مصنوعی را با ساگمیکر سادهتر میکند. مزایای این مشارکت و امکانات آن را بخوانید.
آموزش
آموزش دقیق Wav2Vec2 برای تشخیص گفتار انگلیسی با هوش مصنوعی
در این مقاله از بلاگ هوش مصنوعی هما، نحوه تنظیم دقیق مدل Wav2Vec2 برای تشخیص خودکار گفتار انگلیسی با کتابخانه Transformers آموزش داده میشود.
پژوهش
هوش مصنوعی در خواندن متنهای طولانی: معرفی ترنسفورمهای بلنددامنه
در این مقاله از سری خواندنیهای هوش مصنوعی، به معرفی ترنسفورمهای بلنددامنه و راهکارهای کاهش پیچیدگی محاسباتی برای پردازش متنهای طولانی میپردازیم.
آموزش
هوش مصنوعی و بهینهسازی حافظه: معرفی ZeRO با DeepSpeed و FairScale
با رشد مدلهای بزرگ، حافظه GPU پاسخگو نیست. ZeRO در DeepSpeed و FairScale راهکاری برای آموزش سریعتر و بهینهسازی مصرف حافظه است.
پژوهش
گرمآغاز کردن مدلهای Encoder-Decoder با هوش مصنوعی؛ راهکاری برای بهبود عملکرد
در این مقاله از وبلاگ هوما، روش گرمآغاز کردن مدلهای زبانی Encoder-Decoder با استفاده از checkpointهای BERT و GPT2 بررسی میشود. این تکنیک در ترجمه ماشینی، خلاصهسازی و سایر وظایف seq2seq عملکرد بهتری به ارمغان میآورد.
مدلها
هوش مصنوعی و Reformer: پردازش دنبالههای نیم میلیون توکنی با ۸ گیگابایت
مدل Reformer با مصرف تنها ۸ گیگابایت حافظه، نیم میلیون توکن را آموزش میبیند و برای پردازش دنبالههای طولانی کارآمد است. در این مقاله بررسی میشود.