معرفی همکاری مشترک
در سال 2021، شرکت‌های Hugging Face و Graphcore قرارداد همکاری امضا کردند تا بتوانند مدل‌های ترنسفورمر پیشرفته را بر روی پردازنده‌های مخصوص با نام Intelligence Processing Unit (IPU) بهینه کنند. این برنامه، با هدف دموکراتیزه‌سازی دسترسی به هوش مصنوعی و کاهش پیچیدگی‌های کدنویسی، توسعه‌دهندگان را قادر می‌سازد تا با صددرصد بهره‌وری مدل‌های خود را در مقیاس تولید پیاده‌سازی نمایند.
- آینده‌ای بدون کدنویسی پیچیده با IPU
- یکپارچه‌سازی سریع با کتابخانه‌های Hugging Face
- کاهش زمان و هزینه‌ی آموزش مدل‌های بزرگ
نحوه عملکرد IPU در تسریع ترنسفورمر
IPU بر پایه معماری گراف می‌باشد که به جای استفاده از ماتریس‌های ماتریس، به صورت مستقیم بر گراف پیچیده عصبی تمرکز دارد. این تفاوت باعث می‌شود انتقال داده‌ها بین حافظه و واحدهای پردازشی به سرعت انجام گیرد و مرزهای مصرف انرژی کاهش یابد. در نتیجه، اجرای مدل‌های ترنسفورمر در IPU، به میزان 10 تا 50 درصد سریع‌تر از GPU می‌باشد.
فواید برای توسعه‌دهندگان و شرکت‌ها
اجرای مدل‌های تجسمی، ترجمه، و محاسبات زبان بر پایه ترنسفورمر در سیستم‌های IPU، باعث صرفه‌جویی در زمان و هزینه می‌شود. علاوه بر این، Graphcore از طریق برنامه‌ی HTP (Hardware-to-Product) ادغام نرم‌افزارهای Hugging Face را ساده کرده و رابط‌های API را برای تولید سطحی فراهم می‌سازد که نیازی به تغییرات اساسی در کدهای موجود ندارد.
پرسش‌های پرتکرار
IPU چیست و چه تفاوتی با GPU دارد؟
IPU (Intelligence Processing Unit) پردازنده‌ای است که برای پردازش موازی گراف‌های عصبی طراحی شده، برخلاف GPU که بر پردازش ماتریس متمرکز است.
چگونه می‌توان از مدل‌های بهینه‌سازی‌شده برای IPU استفاده کرد؟
توسعه‌دهندگان می‌توانند با استفاده از کتابخانه AutoModel و تنظیمات خاص IPU در Hugging Face، مدل‌های خود را برای اجرا بر روی سیستم‌های Graphcore بهینه کنند.
