مدلها
GLM-5.2: انقلاب هوش مصنوعی در مدیریت وظایف بلندمدت با پنجره ۱ میلیون توکن
GLM-5.2 با پنجره یک میلیون توکن برای وظایف بلندمدت رونمایی شد. آموزش تخصصی عاملهای کدنویسی، بهینهسازی و اشکالزدایی را به سطح تازهای رسانده است.
پژوهش
پروفایلینگ در PyTorch؛ از nn.Linear تا MLP فیوژنشده با هوش مصنوعی
در دومین قسمت از سری آموزش پروفایلینگ PyTorch، یاد میگیریم چگونه با فیوژن کرنل و بهینهسازی هوش مصنوعی، یک MLP ساده را سریعتر و کارآمدتر اجرا کنیم.
محصولات
بازطراحی hf CLI برای عاملهای هوش مصنوعی؛ کاهش ۶ برابری مصرف منابع
بازطراحی hf CLI توسط Hugging Face برای کارایی بهتر عاملهای هوش مصنوعی؛ کاهش ۶ برابری مصرف توکن و گامها در کارهای پیچیده.
پژوهش
هوش مصنوعی و DPO؛ راهکاری نوین برای مهار چرخههای تکراری در مدلهای OCR
پژوهشگران Dharma-AI در مقاله جدیدی نشان میدهند که با Direct Preference Optimization و جفتهای رد شده از خروجیهای نامطلوب خود مدل، نرخ تخریب متن در مدلهای OCR کاهش مییابد.
محصولات
هوش مصنوعی سریع: معرفی مدل جدید Holo3.1 از H Company و امکانات محلی
چطور Holo3.1، عامل محاسباتی سریع و محلی، با بهینهسازی هزینه و عملکرد، در محیطهای دسکتاپ و موبایل بهطور یکپارچه کار میکند؟
پژوهش
هوش مصنوعی در دقت بالا: چرخش زمان با torch.profiler در پایتورچ
در این مقاله، به بررسی ابزار torch.profiler در پایتورچ میپردازیم و نکات کلیدی برای پروفایلینگ مدلهای هوش مصنوعی و بهینهسازی سرعت ارائه میکنیم. با این گامها، توسعه دهندگان میتوانند عملکرد مدلهای خود را به طور قابل توجهی بهبود بخشند.
پژوهش
هوش مصنوعی: حداکثر بهرهوری GPU با Continuous Batching و انکپسولیشن ناهمزمان
Continuous Batching و انکپسولیشن ناهمزمان در هوش مصنوعی، بهترین راه برای بهینهسازی GPU و کاهش هزینههای عملیاتی در مدلهای LLM و بهرهوری را به ۳۰۰٪ افزایش میدهد.