پژوهش
هوش مصنوعی در Hugging Face: افزایش سرعت آموزش تا ۲ برابر با Flash Attention 2
Hugging Face با بهروزرسانی Flash Attention 2، امکان آموزش مدلهای هوش مصنوعی را تا دو برابر سرعت میدهد. با پیککردن نمونهها بدون پر کردن و بهرهگیری از DataCollatorWithFlattening، کارایی در حین حفظ کیفیت همواری به حداکثر میرسد.
اخبار
هوش مصنوعی بهتر: نقش کلیدی کیفیت داده در ساخت مدلهای پیشرفته
نوشتهای درباره اهمیت کیفیت داده در توسعه هوش مصنوعی: تأثیر بر عملکرد مدل، نمایندگی، حاکمیت، تعمیم و قابلیتتکرار علمی.
مدلها
هوش مصنوعی: کشف حافظه کوانتیزه برای تولید متن طولانی در مدلهای بزرگ
کاهش مصرف حافظه در تولید متن طولانی با کوانتیزه کردن KV Cache، راهحلی قابل تنظیم برای مدلهای بزرگ – معیارهای عملکرد و کیفیت بدون کاهش قابل توجهی در خروجی.
اخبار
لیست برتر هوش مصنوعی: سرعت، قیمت و کیفیت مدلهای LLM بر روی هگینگ فیس
در این گزارش، لیست جدید عملکرد مدلهای زبانی بزرگ در هگینگ فیس معرفی میشود. این لیست، معیارهای سرعت، قیمت و کیفیت را برای بیش از ۱۰۰ مدل مورد ارزیابی قرار میدهد.
مدلها
بهینهسازی مدلهای جاسازی هوش مصنوعی روی CPU با Optimum Intel و fastRAG
روش جدید بهینهسازی مدلهای جاسازی (Embedding) با ابزار Optimum Intel و fastRAG برای اجرای سریع و کمهزینه روی پردازنده مرکزی، بدون افت کیفیت.
اخبار
دادههای مشترک؛ کلید ساخت هوش مصنوعی بهتر و دموکراتیک
پلتفرم Argilla و Hugging Face با طرح «داده با هم بهتر است»، جوامع را به ساخت دادههای باکیفیت برای پیشرفت هوش مصنوعی دعوت میکنند.