مدلها
انتقال مدل ترجمه WMT19 به Transformers؛ دموکراتیک کردن هوش مصنوعی
در این مقاله مرور میکنیم که چگونه سیستم ترجمه WMT19 فیسبوک به کتابخانه متنباز Transformers منتقل شد؛ گامی مهم در مسیر دسترسی آزاد و دموکراتیک به هوش مصنوعی.
آموزش
بهینهسازی فراپارامتر در ترنسفورمر با Ray Tune؛ راهنمای عملی
با Ray Tune، تنظیم فراپارامتر مدلهای ترنسفورمر را هوشمندانه انجام دهید و عملکرد مدل را بدون از دست دادن انعطافپذیری بهبود بخشید.
مدلها
بهینهسازی مدلهای زبانی با ماتریسهای اسپارس بلوکی در هوش مصنوعی
آشنایی با pytorch_block_sparse، ابزار جدید Hugging Face برای کاهش حجم و افزایش سرعت مدلهای زبانی با بهرهگیری از ماتریسهای اسپارس بلوکی.
مدلها
هوش مصنوعی و Reformer: پردازش دنبالههای نیم میلیون توکنی با ۸ گیگابایت
مدل Reformer با مصرف تنها ۸ گیگابایت حافظه، نیم میلیون توکن را آموزش میبیند و برای پردازش دنبالههای طولانی کارآمد است. در این مقاله بررسی میشود.
آموزش
تولید متن با هوش مصنوعی: بررسی روشهای Decoding در مدلهای زبانی
در این مقاله از وبلاگ هوما، روشهای مختلف تولید متن با مدلهای زبانی مانند جستجوی حریصانه، beam search، sampling و top-p را بررسی میکنیم و نحوه پیادهسازی آنها را با کتابخانه transformers یاد میگیریم.
آموزش
آموزش مدل زبانی از صفر با Transformers و Tokenizers در Hugging Face
در این مقاله یاد میگیرید چگونه با کتابخانههای Transformers و Tokenizers یک مدل زبانی اختصاصی از صفر آموزش دهید و آن را برای وظایف پاییندستی بهینه کنید.