اخبار
آموزش پروفایلکردن TorchNeuron و تحلیل عملکرد هوش مصنوعی روی AWS Trainium
در این راهنمای عملی یاد میگیرید چگونه عملکرد استنتاج مدلها روی تراشه Trainium آمازون با TorchNeuron و ابزار Neuron Explorer پروفایل و تحلیل کنید.
مدلها
جنگ هوش مصنوعی: گوگل و آمازون علیه انحصار انویدیا در پایتورچ
گوگل با انتشار TorchTPU به اقیانوس آمازون پیوست تا وابستگی توسعهدهندگان هوش مصنوعی به سختافزار انویدیا را کاهش دهد.
پژوهش
هوش مصنوعی در دقت بالا: چرخش زمان با torch.profiler در پایتورچ
در این مقاله، به بررسی ابزار torch.profiler در پایتورچ میپردازیم و نکات کلیدی برای پروفایلینگ مدلهای هوش مصنوعی و بهینهسازی سرعت ارائه میکنیم. با این گامها، توسعه دهندگان میتوانند عملکرد مدلهای خود را به طور قابل توجهی بهبود بخشند.
آموزش
نانوVLM: سادهترین راه برای آموزش مدل دید و زبان با هوش مصنوعی
نانوVLM کتابخانهٔ خالص پایتورچ برای ساخت مدلهای دید‑زبان ساده است، که امکان آموزش در کلاب رایگان و بدون پیچیدگی را فراهم میکند.
مدلها
کوانتو؛ بکاند کوانتیزهسازی پایتورچ برای استقرار مدلهای هوش مصنوعی
کوانتو یک بکاند کوانتیزهسازی برای پایتورچ است که توسط Hugging Face برای کاهش مصرف حافظه و افزایش سرعت پردازش مدلهای هوش مصنوعی معرفی شده است.
پژوهش
هوش مصنوعی: خوشگذرینه تخصیص منابع برای fine-tuning Llama 2 70B در پایتورچ
Fine‑tuning مدل Llama‑2 70B را با PyTorch FSDP در هستهٔ هوش مصنوعی هدفگذاری کردهایم. از طریق واریسهای سفارشی، چالشهای سختافزاری و الگوریتمهای تقسیم پارامترها بهصورت دقیق در SLURM، بهحرفهای مدل را آموزش میدهیم.
سختافزار
هوش مصنوعی در سرورهای Intel Sapphire Rapids: 2 برابری سرعت یادگیری ماشین
سرورهای جدید Intel Sapphire Rapids با دستورات ویژهی متریس پیشرفته، یادگیری عمیق در PyTorch را دو برابری سرعت میکنند. در این مقاله، به تفصیل بهینهسازیهای IPEX و CCL پرداخته میشود.
پژوهش
هوش مصنوعی با TensorFlow و XLA: تولید متن ۱۰۰ برابر سریعتر
در این مقاله، روش تولید متن پیشرفته با ترکیب TensorFlow و XLA بررسی میشود؛ این تکنولوژی سرعت را تا ۱۰۰× افزایش داده و حتی از پایتورچ پیشی میگیرد، با امکان دسترسی وسیع و بهرهبرداری سریعتر مدلهای زبانی.
پژوهش
سرعتدادن فرآیند تنظیم دقیق PyTorch با فناوریهای آیندل در هوش مصنوعی
بهخاطر استفاده از سرورهای آیندل و کتابخانههای کارایی، فرآیند آموزش مدلهای PyTorch میتواند با طولانیترین زمانهای یادگیری، به سرعت قابل بهبود برسد
اخبار
آموزش سریعتر و ارزانتر مدلهای هوش مصنوعی با PyTorch و TPU
با جدیدترین یکپارچهسازی PyTorch/XLA و Hugging Face، مدلهای هوش مصنوعی را بدون تغییر در رابط Trainer روی Cloud TPU سریعتر و ارزانتر آموزش دهید.