پژوهش
هوش مصنوعی در Hugging Face: افزایش سرعت آموزش تا ۲ برابر با Flash Attention 2
Hugging Face با بهروزرسانی Flash Attention 2، امکان آموزش مدلهای هوش مصنوعی را تا دو برابر سرعت میدهد. با پیککردن نمونهها بدون پر کردن و بهرهگیری از DataCollatorWithFlattening، کارایی در حین حفظ کیفیت همواری به حداکثر میرسد.
پژوهش
هوش مصنوعی با مدل Falcon Mamba: نخستین 7B بدون دقت متن کامل
مدلی نوآورانه و بدون دقت (attention‑free) با 7 میلیارد پارامتر، Falcon Mamba را که توسط تیم نوآوری تکنولوژی در ابوظبی پردازش کردهایم، در همین هفته معرفی میکنیم و کاربردهای آن را بررسی میکنیم.
مدلها
یکپارچهسازی Hugging Face و KerasHub: گامی مهم برای هوش مصنوعی نویدبخش
لینک دیگیر با ادغام جدید Hugging Face و KerasHub، دسترسی به ۳۰۰ هزار مدل زبانی را ساده میکند و امکان آموزش و بهینهسازی سفارشی مدل در محیط Keras را فراهم میآورد.
پژوهش
تجزیه و تحلیل پروتئین با هوش مصنوعی و پردازش Gaudi 2: تسریع مدل ProtST
مدلزبانمحور ProtST بر پایه Gaudi 2 شرکت Intel با سرعت بالا، مکان زیرسلولی پروتئینها را با دقت بالاتر پیشبینی میکند و مسیر پژوهشهای زیستفناوری را تسریع میدهد.
مدلها
گوگل معرفی میکند Gemma 2: آخرین مدل هوش مصنوعی متنباز
با معرفی Gemma 2، گوگل اولین مدل زبان متنباز نسل جدیدش را باز کرده و با امکانات پیشرفتهای نظیر sliding window attention و knowledge distillation، متنسازی را به سطح بالاتری برده است.
اخبار
هوش مصنوعی بهتر: نقش کلیدی کیفیت داده در ساخت مدلهای پیشرفته
نوشتهای درباره اهمیت کیفیت داده در توسعه هوش مصنوعی: تأثیر بر عملکرد مدل، نمایندگی، حاکمیت، تعمیم و قابلیتتکرار علمی.
پژوهش
DeepSpeed و FSDP: با یکدیگر در پشتیبان هوش مصنوعی Hugging Face
دستگاههای DeepSpeed و FSDP در Hugging Face بهصورت متناظر در پردازش دادههای هوش مصنوعی به کار گرفته میشوند؛ مقاله اینبار تفاوتهای میان دو معماری و بهینهسازی در بحث توانمندسازی مدلها را بررسی میکند.