مدل SmolLM3 چیست؟
SmolLM3، یک مدل زبانی کوچک و چندزبانه است که توسط Hugging Face معرفی شد. این مدل به‌طور خاص برای کاربردهای طولانی‌متن و استدلال طراحی شده و امکان پردازش متن‌های چند هزار کلمه‌ای را در قالب یک یکپارچگی ساده فراهم می‌کند.
ساختار و معماری
ساختار SmolLM3 به طرز چشمگیری بهینه شده؛ سطح زیرساخت کمتری دارد و به‌صورت قدرت‌مند برای چند زبان مختلف آموزش داده شده‌است. بیش از ۱۰۰ زبان مختلف از جمله فارسی، انگلیسی، اسپانیایی، چینی و عربی در مجموعه داده‌ها گنجانده شده و مدل با توانایی «بافت صفحه بلند» مصمم شده است.
مسیرهای آموزشی و چالش‌ها
فرآیند آموزش SmolLM3 ترکیبی از فازهای پیش‌آموزش و برسی دقیق است. ابتدا مدل با داده‌های عمومی پر می‌شود، سپس در بالای آن با داده‌های خاص“الروفود” موجود در حوزه‌های پزشکی، حقوق و مشتری‌پرسنلیزه آموزش دیده می‌شود. بعد از این، مرحله‌ای پیشرفته برای بهینه‌سازی استدلال(Reasoning) به همراه استفاده از روش ANCHOR Preference Optimization (APO) اجرا می‌شود.
- کاهش حجم (Smol) برای اجرای سریع‌تر در دستگاه‌های کم‌قدرت
- پشتیبانی از بیش از ۱۰۰ زبان مختلف
- کامل‌ترین مغازه‌بندی برای متن‌های طولانی (Long-context)
- مدیریت پویا و پویا کردن ارتباط میان مدل و داده‌ها
عصر جدید هوش مصنوعی باز
SmolLM3 به‌صورت open-source بر روی پلتفرم Hugging Face منتشر شد و ابزارهای توسعه‌ای مانند HuggingChat و OpenAI API سازگار معرفی می‌شود؛ این امکان را می‌دهد تا توسعه‌دهندگان بتوانند به‌سرعت این مدل را در برنامه‌های خود به‌کار بگیرند و از قدرت استدلال آن بهره‌مند شوند.
پرسش‌های پرتکرار
SmolLM3 در چه زبان‌هایی به‌کار می‌رود؟
SmolLM3 بیش از ۱۰۰ زبان، از جمله فارسی، انگلیسی، اسپانیایی، عربی و چینی را پشتیبانی می‌کند.
مورد استفاده اصلی SmolLM3 چیست؟
SmolLM3 برای پردازش متن‌های طولانی، بررسی استدلال و پیاده‌سازی در اپلیکیشن‌های هوش مصنوعی کاربرد دارد.
