آشنایی با Deploy on Cloudflare Workers AI

Hugging Face در تاریخ ۲ آوریل ۲۰۲۴، گام جدیدی در راستای دموکراتیک‌سازی هوش مصنوعی برداشت و امکان استفاده از مدل‌های متن‌های باز را به شکل سرورلس بر روی GPUهای Cloudflare فراهم کرد. سرویس جدید با نام Deploy on Cloudflare Workers AI به توسعه‌دهندگان اجازه می‌دهد تا مدل‌های محبوب مانند Text Generation را به سرعت در edge data centers Cloudflare مستقر کنند و فقط از محاسبه‌ی مستعمل پرداخت کنند.

مزایای استفاده از GPU سرورلس در Cloudflare

  • سرعت بالا: مدل‌ها در نزدیکی کاربر در سرورهای حاشیه اجرا می‌شوند.
  • هزینه کم: پرداخت فقط برای زمان محاسبه حقیقی، بدون نیاز به هزینه مناسب‌سازی سرور.
  • ساده‌سازی استقرار: نیازی به پیکربندی و نگهداری GPU یا اشتراک‌گذاری سرورهای فیزیکی نیست.
  • یکپارچگی با درگاه API: به راحتی می‌توانید از طریق درخواست‌های HTTP مدل را فراخوانی کنید.
  • مقیاس‌پذیری خودکار: Cloudflare به طور خودکار منابع GPU را بر اساس تقاضای مصرف افزایش می‌دهد.

به رغم اهمیت این ابتکار، در نوامبر ۲۰۲۴ خبر شد که این یکپارچگی دیگر در دسترس نیست و کاربران باید به جای آن از Hugging Face Inference API، Inference Endpoints یا گزینه‌های دیگر برای استقرار مدل‌های هوش مصنوعی خود بگردند. در ادامه، لیستی از راه‌های جایگزین برای استفاده از مدل‌ها آورده شده است.

چگونه می‌توانید به آسانی مدل خود را استقرار دهید؟

برای کسانی که می‌خواهند مدل‌هایشان را بر روی دروازه‌ی Cloudflare تضمین‌کنید، مراحل زیر را می‌توان دنبال کرد:

  • انتخاب مدل مورد نظر از دسته‌ی مدل‌ها.
  • استفاده از دستورات CLI یا API برای ایجاد یک Inference Endpoint در Hugging Face.
  • تربیت مدل بر روی محاسبات GPU در Cloudflare از طریق Inference Endpoints.
  • یکپارچه‌سازی با پروژه‌ی وب یا اپلیکیشن با فراخوانی ساده‌ی REST API.
  • نظارت بر مصرف و مقیاس‌پذیری از طریق داشبورد Cloudflare.

وجود این سرویس نشان‌دهنده حرکت بزرگ در جهت دسترسی آزاد و آسان به پردازش‌های هوش مصنوعی است؛ حتی به رغم کاهش در دسترس بودن آن، بسترهای جایگزین همچنان خدمات مشابهی را با ویژگی‌های یکسان ارائه می‌کنند.

پرسش‌های پرتکرار

Deploy on Cloudflare Workers AI چیست؟

این سرویس از Hugging Face و Cloudflare ساخته شده و امکان اجرای مدل‌های هوش مصنوعی بر روی GPUهای سرورلس در محیط Cloudflare Workers را فراهم می‌کند. با این سرویس، توسعه‌دهندگان می‌توانند مدل‌های متن باز را بدون نیاز به سرور یا مدیریت زیرساخت، مستقر و فراخوانی کنند.

کارمزدهای استفاده از سرویس چطور محاسبه می‌شود؟

در زمان استفاده از این سرویس، کاربران فقط برای زمان واقعی پردازش توسط GPU پرداخت می‌کنند؛ هزینه‌ی ثابت برای سرورهای خالی یا لبه‌ی Cloudflare وجود ندارد؛ تخفیف‌های پرسفیک برای حجم‌های بالا به‌صورت قابل تنظیم است.