در دنیای هوش مصنوعی، گاهی مدل مورد نیاز شما وجود ندارد. یکی از کاربران Hugging Face بهجای انتظار، از ابزار ML Intern استفاده کرد تا مدلی کاملاً شخصیسازیشده بسازد. این تجربه نشان میدهد که ساخت مدل اختصاصی دیگر فقط در اختیار شرکتهای بزرگ نیست.
چرا به مدل جدید نیاز بود؟
کاربر میخواست نسخه کوچکی از بازنویسیکننده پرامپت (Prompt Rewriter) موجود در Qwen-Image 2.1 داشته باشد. نسخه رسمی یک مدل ۹ میلیارد پارامتری است که حدود ۲۰ گیگابایت حافظه نیاز دارد و پیش از نوشتن هر پاراگراف، هزاران توکن فکر میکند. در هاب Hugging Face فقط نسخههای فشرده همان مدل ۹B پیدا میشد.
ML Intern چگونه عملیات را انجام داد؟
کاربر نیاز خود را در HuggingChat و با فعالسازی ML Intern توصیف کرد. این ابزار برنامهریزی کرد، پیش از هر هزینه از کاربر تأیید گرفت، یک تست کوچک انجام داد و سپس آموزش مدل را آغاز کرد.
نتیجه، مدلی با ۰.۸ میلیارد پارامتر بود که روی CPU اجرا میشود. این مدل در ۹۹.۷ درصد موارد خروجی معتبر تولید میکند و فقط یکچهارم توکنهای مدل معلم را مصرف میکند.
هزینهها و مقیاس پروژه
هزینه کل این پروژه، از جمله برچسبگذاری ۸٬۷۹۷ نمونه توسط مدل ۹B، تنها ۱۶ دلار آمریکا بود. کاربر در روزهای بعد پنج مدل دیگر را نیز با همین روش ساخت.
- هر مدل با یک پیام ساده در HuggingChat آغاز شد.
- ML Intern قبل از هزینه، بودجه را تأیید گرفت.
- خروجی نهایی بهصورت عمومی در Hub منتشر شد و ارزیابی آن در کارت مدل ثبت گردید.
- امکان ساخت مدلهایی با کارایی بالا و هزینه کم برای توسعهدهندگان فردی فراهم شده است.
چگونه خودتان چنین مدلی بسازید؟
برای شروع، کافی است در HuggingChat وارد شوید، گزینه ML Intern را فعال کنید و نیاز خود را توصیف نمایید. این ابزار فرآیند ساخت، آموزش و انتشار مدل را بهصورت خودکار انجام میدهد.
پرسشهای پرتکرار
هزینه ساخت مدل با ML Intern چقدر است؟
در نمونه ارائهشده، کل پروژه شامل برچسبگذاری ۸۷۹۷ نمونه توسط مدل ۹B تنها ۱۶ دلار هزینه داشت.
آیا مدلهای ساختهشده با ML Intern روی CPU اجرا میشوند؟
بله، نمونه ساختهشده نسخه ۰.۸B بود که روی CPU اجرا میشود و در ۹۹.۷٪ موارد خروجی معتبر دارد.