مقدمه
پیشرفت‌های اخیر در حوزهٔ هوش مصنوعی، با فراهم‌کردن دستاوردهای قابل توجه می‌تواند به نوآوری در تولید کد اختصاصی کمک کند. اخیراً یک پروژه در Hugging Face به‌عنوان نمونه بارز این شیوه را نشان می‌دهد: آموزش مدل Claude برای تولید کرنل‌های CUDA.
آشنایی با ابزار Upskill
Upskill یک چارچوب باز است که به‌مدت حفظ و اشتراک‌گذاری مهارت‌های عامل به صورت فایل‌های متنی (Markdown، Python scripts) طراحی شده است. این روش باعث می‌شود توسعه‌دهندگان بتوانند به‌سریع‌تری مهارت‌هایی که در مدل‌های بزرگ یا کوچک مورد نیاز است را تعریف و تعریف مجدد کنند.
چگونه Claude کرنل‌های CUDA را می‌آموزد
در این پروژه، Claude ابتدا یک فایل مهارت (Skill file) تولید می‌کند که شامل دستورالعمل‌های دقیق برای نوشتن کرنل‌های CUDA است. پس از آن، این فایل به‌صورت متن ساده به مدل‌های باز (مثلاً Llama, Vicuna) وارد می‌شود و این مدل‌ها قادر به تولید کد نهایی CUDA می‌خواهند.
- مرحله ۱: تعریف فضای کار و فایل‌های ورودی.
- مرحله ۲: اعمال دستورالعمل‌های Markdown در قالب مهارت.
- مرحله ۳: اجرای مدل باز برای تولید کد نهایی.
- مرحله ۴: ارزیابی عملکرد بر اساس معیار‌های تعریف‌شده در فایل مهارت.
مزایا و کاربردها
با استفاده از این روش، تیم‌های پژوهشی می‌توانند هزینه‌های پیاده‌سازی مدل‌های بزرگ را کاهش دهند و مدل‌های کوچک را برای وظایف سخت‌تر، مانند پردازش گرافیکی یا یادگیری عمیق، تعریب کنند. این امر در محیط‌های تحقیقاتی و صنعتی که منابع محدود است، بسیار ارزشمند است.
پرسش‌های پرتکرار
فایده استفاده از upskill و مهارت‌های عامل چیست؟
با تعریف مهارت‌های عامل به صورت فایل‌های متنی، امکان اشتراک‌گذاری، بازنگری و استفاده در مدل‌های دیگر فراهم می‌شود و توسعهٔ سریع‌تر کار می‌کند.
آیا این روش بر روی مدل‌های کوچک نیز کاربرد دارد؟
بله، با تمرکز بر مهارت خاص، می‌توان مدل‌های کم‌قدرت را برای انجام وظایف پیچیده تربیت کرد و هزینهٔ محاسباتی را کاهش داد.
