پژوهش
پیشآموزش BERT با Hugging Face و Habana Gaudi در حوزه هوش مصنوعی
در این مقاله، چگونگی پیشآموزش مدل BERT‑Base بهصورت کامل از صفر با استفاده از کتابخانههای Hugging Face Transformers، Optimum Habana و Datasets بر روی سرور Habana Gaudi توضیح داده میشود.
پژوهش
هوش مصنوعی در هلینگ فیس: فلسفه طراحی بدون تکرار و شفافیت
در این مقاله به فلسفه طراحی کتابخانه هوش مصنوعی «Transformers» هلینگ فیس میپردازیم؛ اصول DRY، جامعهمحور بودن و چالشهای کدکپی در مدلهای BERT و دیگر شبکهها را بررسی میکنیم.
پژوهش
BERT 101: راهنمای جامع توسعه هوش مصنوعی در NLP و کاربردهای واقعی
بِرِد 101، مدل برتر پردازش زبان طبیعی، ما را در مسیر فهم بهتر زبان انسان به قدمهای جدیدی در توسعه هوش مصنوعی پیش میبرد. این مقاله، مفاهیم کلیدی و عملیاتی از Hugging Face را به نمایش میگذارد.
سختافزار
سرعتبخشی مدل BERT با پردازندههای Intel: بهینهسازی هوش مصنوعی روی CPU
این مقاله بررسی میکند چگونه با بهرهگیری از قابلیتهای پردازنده Intel، مدلهای مشابه BERT را روی CPU بهینه میکنیم و سرعت بالایی به دست میآوریم.
پژوهش
آموزش مشارکتی مدلهای زبانی؛ گامی نو در هوش مصنوعی با داوطلبان
روش جدید DeDLOC به داوطلبان امکان میدهد تا با اتصال اینترنت، مدلهای زبانی بزرگ را به صورت مشارکتی آموزش دهند؛ موفقیت در آموزش sahajBERT با ۴۰ داوطلب.
سختافزار
راهنمای بهینهسازی هوش مصنوعی: افزایش کارایی مدل BERT روی CPU
در دنیای هوش مصنوعی، اجرای مدلهای زبانی روی CPU نیازمند بهینهسازی است. این مقاله از Hugging Face روشهای افزایش توان عملیاتی و کاهش تأخیر را بررسی میکند.
مدلها
افزایش ۱۰ درصدی سرعت مدلهای TensorFlow در ترنسفورمرز هوگینگ فیس
هوگینگ فیس با بهینهسازی مدل BERT در کتابخانه ترنسفورمرز، عملکرد TensorFlow Serving را تا ۱۰ درصد نسبت به پیادهسازی رسمی گوگل بهبود بخشید و سرعت را نسبت به نسخه قبلی دو برابر کرد.
پژوهش
گرمآغاز کردن مدلهای Encoder-Decoder با هوش مصنوعی؛ راهکاری برای بهبود عملکرد
در این مقاله از وبلاگ هوما، روش گرمآغاز کردن مدلهای زبانی Encoder-Decoder با استفاده از checkpointهای BERT و GPT2 بررسی میشود. این تکنیک در ترجمه ماشینی، خلاصهسازی و سایر وظایف seq2seq عملکرد بهتری به ارمغان میآورد.