پژوهش
هوش مصنوعی در ترنسفورمرها: MoE (Mixture of Experts) و انقلاب در مدل‌ها
مروری بر هندسه «Mixture of Experts» در ترنسفورمرها، چگونگی افزایش مقیاس‌پذیری مدل‌های زبانی و نقش آن در آینده‌ی هوش مصنوعی. این مقاله به بررسی معماری MoE، بارگذاری وزن، و نتایج اجرای آن می‌پردازد.
اخبار
اهمیت هوش مصنوعی در مقیاس‌پذیری مدل‌های مالی با Rocket Money و Hugging Face
چطور Rocket Money با همکاری Hugging Face به مقیاس‌پذیری مدل‌های مالی دست یافت و با شناسایی معاملات، بهینه‌سازی هزینه‌ها را بهبود بخشید؟
مدل‌ها
لوئیس تانستال: از فیزیک نظریه تا رهبر در هوش مصنوعی و ترنسفورمر
لوئیس تانستال، متخصص ترنسفورمر، درباره‌ی مقیاس‌پذیری مدل‌های بزرگ، بهینه‌سازی تأخیر و نقش او در جامعه‌ی متن‌باز هوش مصنوعی توضیح به ویژه می‌دهد.
پژوهش
قوانین مقیاس‌پذیری مدل‌های زبانی؛ راز پیشرفت هوش مصنوعی
تحقیقات OpenAI نشان می‌دهد عملکرد مدل‌های زبانی با افزایش داده، پارامترها و توان محاسباتی به شکلی قابل پیش‌بینی بهبود می‌یابد. این مقاله به بررسی این قوانین و پیامدهای آن برای آینده هوش مصنوعی می‌پردازد.