دوران هوش مصنوعی داخلی با Dell Enterprise Hub
مجموعه‌ای از چالش‌های امنیتی، حریم خصوصی و رعایت مقررات در صنعت باعث شده است که شرکت‌ها به دنبال راهکاری باشند که بتوانند مدل‌های هوش مصنوعی را کامل بر روی زیرساخت داخلی خود اجرا کنند. محصول جدید Dell Enterprise Hub این امکان را برای کاربران پلتفرم Hugging Face فراهم می‌کند تا بدون نیاز به سرویس‌های ابری، مدل‌های باز را آموزش داده و استقرار دهند.
ویژگی‌های کلیدی Hub
- انتشار (Deployment): امکان قرار دادن مدل‌های بزرگ در کنتینرهای بهینه‌شده به‌صورت سریع در سرورهای Dell.
- آموزش (Training): ابزارهایی برای تنظیم پارامترها، کوانتایزیشن و توزیع موازی بر روی چند گره.
- استفاده از مدل‌های خود (Bring Your Own): آشنایی ساده با Docker و فضای ذخیره‌سازی محلی برای افزودن مدل‌های شخصی.
چرا این مهم است؟
کاربران می‌توانند با استفاده از این پلتفرم تمام مراحل ابتکار تا عملیاتی‌شدن مدل را در یک محیط کنترل‌شده مدیریت کنند؛ عدم وابستگی به سرورهای خارجی، تضمین حریم خصوصی داده‌های حساس، و رعایت قوانین داخلی باعث می‌شود سازمان‌های بزرگ به سرعت به مزیت‌های هوش مصنوعی دست یابند.
پرسش‌های پرتکرار
چگونه می‌توان از Dell Enterprise Hub برای آموزش مدل‌های بزرگ استفاده کرد؟
ابتدا مدل را در فضای محلی یا در مخزن Hugging Face ذخیره کنید، سپس از خط فرمان Hub برای راه‌اندازی یک کلاستر موازی استفاده نمایید. به‌صورت معمول، جملهٔ آموزشی شامل تنظیم پارامترها، کوانتایزیشن و مقیاس‌بندی در ستون زمان‌بندی است.
آیا Dell Enterprise Hub فقط با سرورهای Dell کار می‌کند؟
خیر، این پلتفرم برای عملکرد بر روی سرورهای Dell طراحی شده است؛ اما می‌توان آن را به سرورهای HPE، Lenovo و سایر سازنده‌های سخت‌افزاری نیز تنظیم کرد، همان‌چنان که با Docker و Kubernetes داده شد.
