سیاست و قانون
بررسی امنیتی Gradio 5: تضمین امنیت اپلیکیشنهای هوش مصنوعی
بهروزرسانی مهم Gradio 5! بررسی امنیتی توسط Trail of Bits نشان دادهاست که مشکلاتی در تأمین امنیت رابطهای دموهای هوش مصنوعی وجود دارد. در ادامه جزئیات را بررسی میکنیم.
پژوهش
معرفی راهکار مقیاسپذیری دادههای هوش مصنوعی با Hugging Face و Dask
در این مقاله بهطور عملی، بررسی میکنیم چگونه با ترکیب Hugging Face و Dask، پردازشی مقیاسپذیر و سریع روی دادههای عظیم (مثل FineWeb) انجام دهیم و مدلهای pretrained را بهینهتر اجرا کنیم.
پژوهش
هوش مصنوعی در زبان چک: BenCzechMark و آزمون دقیق مدلهای LLM
بنچکمارک اولین مجموعه ارزیابی جامع برای مدلهای بزرگ زبان (LLM) در زبان چک را معرفی میکند. با ۵۰ کار و ۹ حوزه، عملکرد زبانپردازی را اینچنین بررسی میکند.
پژوهش
کوانتیزیشن افراطی هوش مصنوعی: بهینهسازی مدلهای زبانی به ۱.۵۸ بیت
تیم Hugging Face با ارائه فاینتیونینگ مدلهای زبانی در ۱.۵۸ بیت، روشی جدید برای کاهش شدید مصرف منابع و افزایش کارایی هوش مصنوعی در مقیاس گسترده معرفی کرد.
پژوهش
هوش مصنوعی در Hugging Face: افزایش سرعت آموزش تا ۲ برابر با Flash Attention 2
Hugging Face با بهروزرسانی Flash Attention 2، امکان آموزش مدلهای هوش مصنوعی را تا دو برابر سرعت میدهد. با پیککردن نمونهها بدون پر کردن و بهرهگیری از DataCollatorWithFlattening، کارایی در حین حفظ کیفیت همواری به حداکثر میرسد.
پژوهش
هوش مصنوعی در ابرداده «Meta Llama 3.1 405B» بر روی Vertex AI گوگل کلود
مدل Llama 3.1 405B Meta به صورت متنمحور و چندزبانه، امکان پیشبینیهای آنلاین در Vertex AI گوگل کلود را با سرعت و دقت بالا فراهم میکند.