پژوهش
آموزش مشارکتی مدلهای زبانی؛ گامی نو در هوش مصنوعی با داوطلبان
روش جدید DeDLOC به داوطلبان امکان میدهد تا با اتصال اینترنت، مدلهای زبانی بزرگ را به صورت مشارکتی آموزش دهند؛ موفقیت در آموزش sahajBERT با ۴۰ داوطلب.
اخبار
اسپسی به هاب هاگینگ فیس پیوست؛ گامی نو در اشتراکگذاری هوش مصنوعی
کتابخانه محبوب پردازش زبان طبیعی اسپسی به هاب هاگینگ فیس اضافه شد. اکنون پایپلاینهای خود را با یک دستور آپلود کرده و به اشتراک بگذارید.
مدلها
آشنایی با یادگیری چندنمونهای و نقش GPT-Neo در هوش مصنوعی
در این مقاله، یادگیری چندنمونهای روشی نوین در هوش مصنوعی است و کاربردهای GPT-Neo و API شتاب یافته هافینگ فیس برای پیشبینی با مثالهای اندک بررسی میشود.
مدلها
هوش مصنوعی BigBird: راهکاری نوین برای پردازش متنهای طولانی
مدل BigBird با بهرهگیری از توجه پراکنده بلوکی، پردازش متنهای طولانی را در هوش مصنوعی ممکن کرده است. این مدل در خلاصهسازی و پرسش و پاسخ عملکرد برجستهای دارد.
مدلها
افزایش ۱۰ درصدی سرعت مدلهای TensorFlow در ترنسفورمرز هوگینگ فیس
هوگینگ فیس با بهینهسازی مدل BERT در کتابخانه ترنسفورمرز، عملکرد TensorFlow Serving را تا ۱۰ درصد نسبت به پیادهسازی رسمی گوگل بهبود بخشید و سرعت را نسبت به نسخه قبلی دو برابر کرد.
مدلها
انتقال مدل ترجمه WMT19 به Transformers؛ دموکراتیک کردن هوش مصنوعی
در این مقاله مرور میکنیم که چگونه سیستم ترجمه WMT19 فیسبوک به کتابخانه متنباز Transformers منتقل شد؛ گامی مهم در مسیر دسترسی آزاد و دموکراتیک به هوش مصنوعی.
آموزش
بهینهسازی فراپارامتر در ترنسفورمر با Ray Tune؛ راهنمای عملی
با Ray Tune، تنظیم فراپارامتر مدلهای ترنسفورمر را هوشمندانه انجام دهید و عملکرد مدل را بدون از دست دادن انعطافپذیری بهبود بخشید.
مدلها
بهینهسازی مدلهای زبانی با ماتریسهای اسپارس بلوکی در هوش مصنوعی
آشنایی با pytorch_block_sparse، ابزار جدید Hugging Face برای کاهش حجم و افزایش سرعت مدلهای زبانی با بهرهگیری از ماتریسهای اسپارس بلوکی.