گوگل معرفی می‌کند Gemma 2: آخرین مدل هوش مصنوعی متن‌باز

Gemma 2: معرفی و ویژگی‌های کلیدی

گوگل در تاریخ ۲۷ ژوئن ۲۰۲۴، مدل زبان متن‌باز Gemma 2 را رونمایی کرد که درخدمتی گسترش یافته و قابلیت‌های جدیدی را ارائه می‌دهد.

افزایش عملکرد با Sliding Window Attention

یکی از تحولات مهم در این مدل، پیاده‌سازی sliding window attention است که امکان پردازش متن‌های طولانی بدون افزایش چشمگیر در مصرف حافظه را فراهم می‌کند.

مجموعه‌ی تکنیک‌های پیشرفته: Knowledge Distillation و Model Merging

Gemma 2 از مهارت‌های یادگیری distillation برای انتقال دانش بین مدل‌ها و merging تکنیک‌هایی برای ترکیب مدل‌های مختلف استفاده می‌کند که موجب بهبود راندمان می‌شود.

• دسته‌بندی مدل‌ها: ۴ مدل متن‌باز (۲ مدل اصلی و ۲ مدل آموزشی)
• پشتیبانی از Hugging Face Transformers و Google Cloud
• امکان fine‑tuning با کتابخانه TRL
• دسترسی به Inference Endpoints برای تولید متن در مقیاس بزرگ

Gemma 2 در دیتاپای رِیپلاین و Leaderboard های Open LLM به‌صورت رتبه‌بندی پیشرفته قرار گرفته و نشان می‌دهد که چطور مدل‌های متن‌باز می‌توانند با کیفیت مسابقه‌های حرفه‌ای رقابت کنند.

پرسش‌های پرتکرار

Gemma 2 در چه پارامتری نسبت به مدل قبلی بهبود یافته است؟

Gemma 2 با sliding window attention و distillation، قادر به پردازش متن‌های طولانی‌تر و همزمان کاهش مصرف حافظه است.

چگونه می‌توان از Gemma 2 برای تولید متن استفاده کرد؟

با استفاده از لایبرری‌های Hugging Face Transformers یا سرویس Inference Endpoints، می‌توانید به راحتی مدل را فراخوانی کنید و متن‌های خود را تولید کنید.