تیم WebAI هوش مصنوعی هاگینگ فیس (Hugging Face) نسخه اولیه کتابخانه @huggingface/kernels را منتشر کرد؛ کتابخانهای مینیمال برای بارگذاری و اجرای کرنلهای بهینه WebGPU از هاب هاگینگ فیس. در کنار این کتابخانه، مجموعه اولیه شامل ۲۰۷ کرنل نیز در آدرس huggingface.co/webgpu-kernels در دسترس توسعهدهندگان قرار گرفته است.
چرا کرنلها نقطه شروع هستند؟
هدف اصلی تیم WebAI هاگینگ فیس، سریعتر و کاربرپسندتر کردن استنتاج مدلهای هوش مصنوعی در مرورگر است. دستیابی به این هدف یک تلاش چندلایه است: مدلها به بازنماییهای سازگار با مرورگر نیاز دارند، زمانهای اجرا (runtimes) باید برنامههای اجرایی بهینه بسازند و عملیات پایه GPU در پایینترین لایه پشته باید از تمام توان دستگاهها و پیادهسازیهای مختلف مرورگرها بهره ببرند. کتابخانه جدید در واقع نخستین لایه از این تلاش بزرگ است.
یک مخزن کرنل، نه فقط یک شیدر
نکته مهم درباره این مجموعه، پوشش عملیاتی است که در طیف گستردهای از معماریها و بارهای کاری یادگیری ماشین استفاده میشوند. هر کرنل بهصورت یک بسته کامل و نسخهبندیشده منتشر شده است؛ یعنی رابط برنامهنویسی، قالبهای شیدر و تستهای صحت همراه آن ارائه میشود. این رویکرد باعث میشود توسعهدهندگان بهجای نوشتن شیدرهای خام، به یک زیرساخت اشتراکی و قابلاعتماد متصل شوند.
سرعت و مقیاسپذیری از یک دستگاه تا ناوگانی از دستگاهها
مستندات این انتشار شامل بنچمارکهایی برای سنجش سرعت کرنلها روی سختافزارهای مختلف است. تیم هاگینگ فیس تاکید میکند که این پروژه صرفاً برای یک دستگاه طراحی نشده؛ بلکه زیرساختی برای مدیریت «ناوگانی» از دستگاههاست و میتواند پایهای مشترک برای آینده WebAI در اکوسیستم متنباز باشد.
گامی برای دموکراتیزه کردن هوش مصنوعی در مرورگر
این انتشار در راستای مأموریت اعلامشده هاگینگ فیس برای پیشبرد و دموکراتیزه کردن هوش مصنوعی از طریق متنباز و علم باز قرار دارد. با در دسترس بودن بیش از ۲۰۰ کرنل WebGPU، توسعهدهندگان وب میتوانند بدون نیاز به سرور، مدلهای هوش مصنوعی را مستقیماً در مرورگر کاربران اجرا کنند؛ رویکردی که هم حریم خصوصی را تقویت میکند و هم هزینههای زیرساخت ابری را کاهش میدهد.
- انتشار کتابخانه @huggingface/kernels برای بارگذاری کرنلها از هاب
- ۲۰۷ کرنل بهینه WebGPU برای عملیات پرکاربرد یادگیری ماشین
- هر کرنل بهصورت بسته کامل، نسخهبندیشده و همراه تست صحت
- پشتیبانی از طیف گستردهای از معماریها و بارهای کاری
- زیرساخت مشترک برای ساخت آینده WebAI
توسعهدهندگان علاقهمند میتوانند مستندات و کد این پروژه را در گیتهاب دنبال کنند و در بهبود و گسترش این مجموعه مشارکت کنند.
پرسشهای پرتکرار
کتابخانه @huggingface/kernels چه کاری انجام میدهد؟
این کتابخانه امکان بارگذاری و اجرای کرنلهای بهینه WebGPU را از هاب هاگینگ فیس فراهم میکند تا استنتاج مدلهای هوش مصنوعی در مرورگر سریعتر و سادهتر شود.
مجموعه اولیه کرنلهای منتشرشده چند عدد است؟
۲۰۷ کرنل WebGPU در آدرس huggingface.co/webgpu-kernels منتشر شده که عملیات پرکاربرد در معماریهای مختلف یادگیری ماشین را پوشش میدهند.