نظارت بر روند ادغام مدل‌ها در محیط‌های تولید
هفتی‌سین، شرکت مستقیماً در حال گسترش پروژه‌های هوش مصنوعی است و تمرکز اصلی آن بهینه‌سازی انرژی و هزینه‌ها در حوزه‌ی استنتاج می‌باشد. این تغییرات نه تنها به محققان کمک می‌کند، بلکه برای شرکت‌های کوچک و بزرگ، پیاده‌سازی سریع محصولات مبتنی بر هوش مصنوعی را امکان‌پذیر می‌سازد.
راه‌حل‌های استنتاج در Hugging Face
Hugging Face در این بروز رسانی عملکردهای زیر را معرفی کرده است:
- نقاط انتشاری (Inference Endpoints) با پشتیبانی از GPU و CPU
- ابزارهای رایگان مبتنی بر پردازش سی‌پی‌یو، به‌روزرسانی توسط شرکت Intel
- یک بستر یکپارچه برای انتشار، مدیریت و مقایسه مدل‌های مختلف
چرا فعالیت‌های رایگان در CPU اهمیت دارد؟
مدارک اخیر نشان می‌دهد که هزینه‌ی پردازش بر روی CPU، برای بسیاری از پژوهشگران و نمونه‌های کوچک، هزینه‌های قابل توجهی دارد. به‌دلیل این امر، مشارکت‌های تجاری در زمینه‌ی رایگان بودن CPU، هفتگی و فدرال، باعث تسهیل دسترسی به هوش مصنوعی می‌شود.
پرسش‌های پرتکرار
چگونه می‌توانم از سرویس‌های استنتاج رایگان Hugging Face استفاده کنم؟
برای استفاده از خدمات رایگان، ابتدا در پلتفرم ثبت‌نام کنید، پس از آن می‌توانید از API رایگان در حوزه پردازش مرکزی (CPU) بهره ببرید.
الفارق بین نقاط انتشاری و فضای ذخیره‌سازی در Hugging Face چیست؟
نقاط انتشاری به اجرای سریع مدل‌های آموزش دیده می‌پردازند، در حالی که فضاها مجموعه‌های داده، مدل‌ها و اسکریپت‌ها را برای اشتراک‌گذاری در جامعه نگهداری می‌کنند.
