پژوهش
هوش مصنوعی: راهحلی پیشرفته برای پردازش دادههای چندرسانهای برای آموزش و تولید متن
در این مطلب به معرفی پنج مرحلهٔ بهینه برای ساخت پایپلاین داده چندرسانهای در Hugging Face میپردازیم و تاثیر آن بر کاهش مصرف GPU و هزینه را بررسی میکنیم.
اخبار
هوش مصنوعی و مدیریت هزینه در پردازش روزانه بیش از یک میلیارد داده
با رشد تقاضا برای پردازش دادههای عظیم، بهینهسازی استنتاج هوش مصنوعی برای انجام روزانه بیش از یک میلیارد طبقهبندی بدون افزایش هزینه کلیدی است.
پژوهش
معرفی راهکار مقیاسپذیری دادههای هوش مصنوعی با Hugging Face و Dask
در این مقاله بهطور عملی، بررسی میکنیم چگونه با ترکیب Hugging Face و Dask، پردازشی مقیاسپذیر و سریع روی دادههای عظیم (مثل FineWeb) انجام دهیم و مدلهای pretrained را بهینهتر اجرا کنیم.
پژوهش
هوش مصنوعی در Hugging Face: افزایش سرعت آموزش تا ۲ برابر با Flash Attention 2
Hugging Face با بهروزرسانی Flash Attention 2، امکان آموزش مدلهای هوش مصنوعی را تا دو برابر سرعت میدهد. با پیککردن نمونهها بدون پر کردن و بهرهگیری از DataCollatorWithFlattening، کارایی در حین حفظ کیفیت همواری به حداکثر میرسد.
پژوهش
DeepSpeed و FSDP: با یکدیگر در پشتیبان هوش مصنوعی Hugging Face
دستگاههای DeepSpeed و FSDP در Hugging Face بهصورت متناظر در پردازش دادههای هوش مصنوعی به کار گرفته میشوند؛ مقاله اینبار تفاوتهای میان دو معماری و بهینهسازی در بحث توانمندسازی مدلها را بررسی میکند.
پژوهش
هوش مصنوعی در جامعه اِلِکسیر: Bumblebee و مدلهای GPT‑2 تا Stable Diffusion
کتابخانهی Bumblebee در زبان اِلِکسیر، مدلهای هوش مصنوعی را از GPT‑2 تا Stable Diffusion به راحتی در برنامههای وب، پردازش داده و سیستمهای جاسازی شده قابل استفاده میکند. این ابتکار باعث پیشرفت کاربرمحور در حوزهی هوش مصنوعی میشود.