پژوهش
هوش مصنوعی در عمل: روشهای بهینهسازی مدلهای زبان بزرگ
با بهرهگیری از تکنیکهای Flash Attention، حافظهی مبتنی بر کلید-مقدار و بهبود جاسازهای موقعیتی، مدلهای زبان بزرگ را میتوان در محیطهای تولیدی بهینهتر استفاده کرد.
پژوهش
هوش مصنوعی: خوشگذرینه تخصیص منابع برای fine-tuning Llama 2 70B در پایتورچ
Fine‑tuning مدل Llama‑2 70B را با PyTorch FSDP در هستهٔ هوش مصنوعی هدفگذاری کردهایم. از طریق واریسهای سفارشی، چالشهای سختافزاری و الگوریتمهای تقسیم پارامترها بهصورت دقیق در SLURM، بهحرفهای مدل را آموزش میدهیم.
مدلها
هوش مصنوعی: معرفی Würstchen، مدل تولید تصویر بسیار سریع و نوآور
Würstchen، مدل جدید انتشار دادهها، با فشردهسازی ۴۲ برابر، امکان تولید تصاویر با کیفیت بالا در ثانیههای کمی را فراهم میکند، بهعلاوه در فریمورک Diffusers به آسانی یکپارچه میشود.
پژوهش
کشف مزایا و معایب کوانتیزهسازی مدلهای هوش مصنوعی در Transformers
متن به بررسی مزایا و معایب دو روش کوانتیزهسازی، BitsAndBytes و AutoGPTQ، در کتابخانه Transformers میپردازد و راهنمایی برای انتخاب مناسب ارائه میدهد.
پژوهش
هوش مصنوعی در کدنویسی: SafeCoder مقابل دستیارهای کد باز و سهامدار
در این مقاله تفاوتهای SafeCoder را با دستیارهای کد بسته بررسی کرده و تأثیر آن بر کارایی توسعهدهندگان را مورد تحلیل قرار میدهیم، بهویژه استفاده از آزاد.
مدلها
هوش مصنوعی: آداپتورهای T2I‑Adapters برای کنترل تصاویر SDXL
آداپتورهای T2I‑Adapters برای SDXL؛ مدل کنترل متن‑به‑تصویر باز و کارآمد، جایگزین پر مصرف ControlNet در تولید تصاویر پیشرفته.
اخبار
هوش مصنوعی 180 میلیارد پارامتر: Falcon 180B، رقیب PaLM-2 در مدلهای متن باز
Falcon 180B، مدل زبان 180 میلیارد پارامتر و آموزش 3.5 ترلیون توکن، برترین مدل متن باز در مسابقات زبانی، در Hugging Face منتشر شد و رقابت میکند
پژوهش
هوشمصنوعی و پردازش سریع: ۵۰٪ کاهش تاخیر با SageMaker و Hugging Face
Fetch با ترکیب Amazon SageMaker و Hugging Face توانست تاخیر پردازش یادگیری ماشین خود را ۵۰٪ کاهش دهد و دقت اسکن رسیدها را به طور چشمگیری بالا ببرد.