راه‌اندازی سرور زبانی بزرگ با یک دستور ساده

پلتفرم Hugging Face گامی بلند در جهت دموکراتیزه کردن هوش مصنوعی برداشته و این بار قابلیتی را معرفی کرده که توسعه‌دهندگان را از دردسرهای پیچیدهٔ زیرساخت آزاد می‌کند. از این پس با اجرای تنها یک دستور در خط فرمان، می‌توانید یک نقطهٔ پایانی (endpoint) خصوصی و سازگار با رابط برنامه‌نویسی OpenAI روی زیرساخت ابری هگینگ‌فیس راه‌اندازی کنید.

این سرویس که بر پایهٔ پروژهٔ متن‌باز vLLM کار می‌کند، هیچ نیازی به تهیهٔ سرور اختصاصی، پیکربندی خوشه‌های کوبرنتیز یا مدیریت پیچیدهٔ منابع ندارد. سیستم صورتحساب آن نیز کاملاً شفاف و بر اساس زمان واقعی استفاده از سخت‌افزار به ازای هر ثانیه محاسبه می‌شود.

پیش‌نیازهای راه‌اندازی

برای شروع کار با این قابلیت، فقط سه پیش‌نیاز ساده وجود دارد:

  • یک روش پرداخت فعال یا موجودی اعتباری مثبت در حساب هگینگ‌فیس؛ زیرا صورتحساب بر اساس استفاده از سخت‌افزار به تفکیک دقیقه انجام می‌شود.
  • نصب آخرین نسخهٔ کتابخانهٔ huggingface_hub با حداقل نسخهٔ ۱.۲۰.۰ از طریق دستور pip install.
  • احراز هویت محلی در خط فرمان با دستور hf auth login.

چرا این قابلیت مهم است؟

دستور hf jobs run در حقیقت همان نقشی را برای زیرساخت هگینگ‌فیس ایفا می‌کند که docker run برای محیط‌های محلی دارد. تصویر رسمی vllm/vllm-openai از Docker Hub دریافت می‌شود، نوع پردازندهٔ گرافیکی با پرچم --flavor انتخاب می‌گردد و سرویس vLLM به‌صورت خودکار در دسترس قرار می‌گیرد.

پس از راه‌اندازی، می‌توانید از هر دستگاهی — از جمله لپ‌تاپ، دفترچهٔ Jupyter یا هر محیط دیگری — به این سرور متصل شده و درخواست‌های تولید متن، ارزیابی مدل یا پردازش دسته‌ای را اجرا کنید. این سریع‌ترین روش برای آزمایش مدل‌های زبانی بزرگ بدون سرمایه‌گذاری اولیه روی زیرساخت است.

مقایسه با Inference Endpoints چیست؟

هگینگ‌فیس توضیح می‌دهد که HF Jobs مناسب سناریوهای آزمایشی، ارزیابی و کارهای موقت است. در مقابل، اگر به یک سرویس مدیریت‌شده، پایدار و آمادهٔ تولید نیاز دارید، Inference Endpoints گزینهٔ بهتری خواهد بود. همچنین این سرویس قابلیت‌های پیشرفته‌تری مانند اتصال با رابط کاربری گفتگو، دسترسی SSH به سرور در حال اجرا و استفاده به‌عنوان پس‌زمینهٔ یک عامل برنامه‌نویسی (کدینگ‌ایجنت) با ابزار Pi را نیز پشتیبانی می‌کند.

پرسش‌های پرتکرار

تفاوت HF Jobs و Inference Endpoints چیست؟

HF Jobs مناسب کارهای موقت مانند آزمایش، ارزیابی و تولید دسته‌ای است و به ازای هر ثانیه استفاده از سخت‌افزار صورتحساب دارد. این در حالی است که Inference Endpoints یک سرویس مدیریت‌شده و پایدار برای محیط‌های تولیدی ارائه می‌دهد.

برای استفاده از قابلیت جدید Hugging Face به چه چیزهایی نیاز دارم؟

به یک روش پرداخت فعال در حساب هگینگ‌فیس، نصب کتابخانه huggingface_hub نسخه ۱.۲۰.۰ به بالا و ورود به سیستم از طریق دستور hf auth login نیاز دارید.