ویژگی‌های جدید نسخه ۳

مجموعهٔ مطبوعاتی Hugging Face اعلام کرد که گذارش «Transformers.js v3» با بیش از ۱۲۰۰ مدل پیش‑تبدیل شده، قالب‌های جدید برای Node.js، Deno و Bun، و دقت‌های کوانتایزیشن تازه یارانه‌ای برای توسعه‌دهندگان است. گواهی می‌دهد که کتابخانهٔ جی‌اس خود را برای پردازش‌های طولانی و پیچیده آماده کرده‌اند.

پشتیبانی از WebGPU و تأثیر آن

WebGPU، استاندارد جدیدی برای ارتباط مستقیم با GPU در مرورگر، توانایی اجرای محاسبات عمومی‌مبتنی روی GPU را فراهم می‌آورد. این ویژگی باعث افزایش تاخیر کمتر و عملکرد سریعتر در مدل‌های هوش مصنوعی می‌شود و راه حلی مناسب برای اجرای مدل‌ها بر روی دستگاه‌های ناظر به صورت مستقیم در مرورگر است.

نحوه استفاده و نکات کلیدی

برای استفاده از نسخهٔ جدید می‌توانید کتابخانه را از NPM نصب کنید:

import { pipeline } from "https://cdn.jsdelivr.net/npm/@huggingface/transformers@3.0.0";

امکان تنظیم نوع داده (dtype) در هر ماژول وجود دارد و می‌توانید با پارامتر dtype مدل خود را برای سرعت یا بهبود کیفیت تنظیم کنید. سایر نکات کلیدی عبارتند از:

  • امکان اجرای مدل در محیط‌های Node.js (ESM و CJS) با پشتیبانی کامل از WebGPU.
  • یک کدک جدید برای ذخیره‌سازی و بارگذاری مدل‌ها به سادگی در یک پوشه.
  • یک مستندات جدید و جامع، نتایج آزمایشی و مثال‌های عملی.

مجموعهٔ همهٔ این بهبودها نشان‌دهندهٔ تلاش مداوم شاخهٔ OSS برای پیشبرد هوش مصنوعی در سمت کلاینت است.

پرسش‌های پرتکرار

آیا WebGPU در تمام مرورگرها پشتیبانی می‌شود؟

در حال حاضر WebGPU در نسخه‌های آزمایشی Chrome، Edge و Firefox در دسترس است و پشتیبانی Safari در انتظار است. برای دسترسی بهتر می‌بایست flagهای توسعه فعال باشد.

چگونه می‌توان از کوانتایزیشن در Transformers.js استفاده کرد؟

در زمان ایجاد pipeline می‌توان پارامتر بسامد `dtype` را به نمونهٔ مدل اختصاص داد (مثلاً 'int8', 'fp16') تا مدل به طور خودکار با دقت مورد نظر آماده شود.