چنانچه Whisper و دیاری‌سازی را ترکیب کنیم؟
مدل Whisper از محبوب‌ترین و دقیق‌ترین مدل‌های بازآفرینی گفتار در دسترس ویدّیت است. برای افزودن قابلیت دیاری‌سازی، مدل Pyannote برای تشخیص کدام گوینده در هر بخش صحبت می‌کند، به‌صورت متصل در یک pipeline پیکربندی می‌شود. این ترکیب به ما اجازه می‌دهد تا در یک درخواست API، همزمان متن تبدیل به گفتار و لیست گویندگان را دریافت کنیم.
ساختن یک Endpoint سفارشی در هنجینگ فیس
پلتفرم Hugging Face Inference Endpoints امکان ایجاد یک endpoint منحصر به‌فرد را به برنامه‌نویسان می‌دهد. برای پیاده‌سازی اسکریپت سفارشی، معمولاً یک فایل handler.py ایجاد می‌شود که شامل مراحل زیر است:
- بارگذاری مدل Whisper (مثلاً مدل پایه یا نسخه‌ی سفارشی)
- بارگذاری مدل Pyannote برای دیاری‌سازی
- پردازش ورودی صدا و تبدیل آن به فرمت مناسب
- اجرا کردن pipeline ترکیبی و استخراج خروجی متن + لیست گویندگان
- ساخت پاسخ JSON ساختاریافته برای کلاینت
با این طراحی می‌توانید از یک نقطه پایانی بهره‌مند شوید که همزمان چندین وظیفه را انجام می‌دهد گویی.
مصرف و قیمت: چگونه از این سرویس بهره می‌بریم؟
Hugging Face مدل‌های خود را در قالب Inference Endpoints به صورت pay‑as‑you‑go عرضه می‌کند. هزینه بر اساس زمان پردازش و حجم پردازش شدگان سوندگی می‌شود. برای تست اولیه، معمولاً سطح رایگان محدودیتی ۲۰۰ هزار واحد در ماه در اختیار کاربران قرار می‌گیرد. اگر به حجم بالاتری نیاز دارید، قیمت‌های ویژه‌ی اشتراک Enterprise هم در دسترس است.
پرسش‌های پرتکرار
چگونه می‌توانم یک مدل Whisper سفارشی را در Endpoint قرار دهم؟
برای این کار باید مدل خود را ابتدا در فضای ذخیره‌سازی خود در هنجینگ فیس آپلود کنید. سپس در پارامترهای ورودی endpoint، مسیر مدل را مشخص کنید. بعد از این، handler شما می‌تواند مدل را بارگذاری و اجرا کند.
آیا می‌توانم از speculatively decoding در این pipeline استفاده کنم؟
بله، ورودی API پیام را می‌توان با پارامتر خودکارها فعال کرد. با فعال‌سازی گزینه‌ی speculative decoding، سرور چندین خروجی احتمالی برای هر بخش صدا تولید می‌کند و از بهترین‌ها اطمینان حاصل می‌کند.
