معرفی Granite R2
شرکت IBM Granite در سال ۲۰۲۶ کتابخانه‌ای جدید تحت نام Granite R2 منتشر کرده که یک مدل embedding چندزبانه ۱۰۰ میلیون پارامتر در مجموعه Apache 2.0 است. این مدل بر پایه ModernBERT طراحی شده و در حوزه‌های جستجو، retrieval و پردازش زبان طبیعی کاربرد فراوانی دارد.
ویژگی‌های کلیدی
- 32K توکن متنی در دسترس: امکان در نظر گرفتن متن‌های طولانی با ۶۴ برابر نسبت به مدل R1.
- پوشش ۲۰۰+ زبان: فعال‌سازی ۵۲ زبان در فاز آموزش و پوشش کامل برای زبان‌های دیگر.
- مدل‌های دو سطح: یک مدل فشرده ۹۷ میلیون پارامتر و یک مدل کامل ۳۱۱ میلیون پارامتر با حافظه Matryoshka.
- کد retrieval: پشتیبانی از ۹ زبان برنامه‌نویسی برای استخراج قطعات کد.
در مقایسه با رقبا، Granite R2 با امتیاز ۶۰٫۳ در MTEB Retrieval در رده اول مدل‌های ۱۰۰ میلیون پارامتر قرار دارد.
نتایج برنچمارک
در تخمین‌های MTEB، مدل فشرده ۹۷M ۶۰٫۳ شانس retrieval ارائه می‌دهد و مدل کامل ۳۱۱M ۶۵٫۲؛ در میان مدل‌های متن باز کمتر از ۵۰۰M، بالاترین رتبه را کسب کرده است. سرعت پردازش و Throughput نیز در مقایسه با گذشته به طور چشمگیری بهبود یافته است.
پرسش‌های پرتکرار
Granite R2 چه تفاوتی با مدل R1 دارد؟
Granite R2 با مدل R1 تفاوت دارد به‌صورت قابل‌حسینی در طول متن با 32K توکن، در حالی که مدل R1 به حداکثر 512 توکن محدود بود. همچنین، R2 دو نسخه فشرده و کامل دارد و پشتیبانی از Matryoshka می‌باشد.
کدام نسخه مدل را برای کارهای تجاری انتخاب می‌کنم؟
برای کاربردهای تجاری که نیاز به سرعت بالاتر و هزینه کمتر دارد، نسخه ۹۷M مناسب است. در مواردی که دقت و پوشش زبانی بالا الزامی است، نسخه ۳۱۱M توصیه می‌شود.
