پژوهش
هوش مصنوعی: AutoRound شرکت اینتل برای کمینهسازی مدلهای LLM و VLM
AutoRound از اینتل، یک ابزار کوانتایزیشن وزن-فقط برای LLMs و VLMs است که با دقت بالا در بیتهای 2 تا 8، حجم مدل را تا ۳۰٪ کاهش میدهد.
مدلها
Meta معرفی Llama Guard 4: مدل جدید ایمنی هوش مصنوعی طبیعی
Meta با انتشار Llama Guard 4، مدل ایمنی چندرسانهای 12B را معرفی میکند که برای جلوگیری از تولید محتوای ناامن در تولید متن و تصویر طراحی شده است. این مدل در هاب Hugging Face به صورت متنباز در دسترس قرار گرفته است.
پژوهش
هوش مصنوعی و Prefill - راهکارهای بهینهسازی پردازش موازی در LLM
در این گزارش به بررسی استراتژیهای Prefill و Decode برای پردازش موازی در مدلهای زبانی بزرگ میپردازیم، تمرکز بر بهینهسازی تاخیر، Throughput و مصرف GPU.
پژوهش
هوش مصنوعی: HELMET، رویکرد جامع برای ارزیابی مدلهای طویل متن
HELMT، چارچوب ارزیابی نوین برای مدلهای زبان با طول متن بلند، به صورت متن باز و تحقیقاتی، نمونههای کاربردی و مزایای آن در دنیای هوش مصنوعی را میپذیرد.
پژوهش
هوش مصنوعی: Cohere بهعنوان ارائهدهنده پیشبینی در Hugging Face معرفی شد
در این خبر هیجانانگیز، شرکت Cohere بهعنوان اولین سازنده مدلهایی که مستقیماً در HF Hub قابل دسترسی باشند، معرفی شد. یادگیری ماشین نوین بر پایه امنیت و پاسخگویی برای کسبوکارهای بزرگ.
پژوهش
Gradio: فراتر از کتابخانه UI در حوزهٔ هوش مصنوعی برای توسعهدهندگان
Gradio بیش از تنها یک کتابخانه رابط، فریمورک کاملی برای تعامل با مدلهای هوش مصنوعی است؛ از API پویا و امنیت بالا تا مستندسازی جامع و دسترسی آسان برای همه.