پژوهش
هوش مصنوعی بر روی حافظهٔ محلی: معرفی ggml و کاربردهای آن
بررسی جامع فریمورک open-source ggml که برای اجرای مدلهای ترنسفورمر به صورت on-device طراحی شده و متناسب با دستگاههای کممنبع است و ابزارهای توسعه
سختافزار
هکهای هوش مصنوعی: اجرای Mistral 7B بر روی Core ML در WWDC 2024
در صدوی WWDC، اپل امکان اجرای مدل هوش مصنوعی Mistral 7B بر روی Apple Silicon را با Core ML معرفی کرد. این نوآوری دنیای مدلهای زبانی را به هم میکشد.
اخبار
هوش مصنوعی در سرورهای AMD Instinct MI300: یک گام بزرگ از سوی Hugging Face
Hugging Face با همکاری AMD از پردازندههای گرافیکی Instinct MI300 برای اجرای مدلهای هوش مصنوعی بهره میبرد. بدون تغییر کد، در محیطهای محلی یا سرورهای ابری مانند Azure ND MI300x V5 کاملاً عملیاتی است.
پژوهش
هوش مصنوعی با حریم شخصی: اجرای حوسبهپوشیده در Hugging Face Endpoints
دستگاههای پیشرفتهٔ FHE برای اجرای مدلسازی هوش مصنوعی در محیط امن و معکوسشدهٔ Hugging Face Endpoints معرفی شدند؛ روند و نکات کلیدی برای توسعهدهندگان و پژوهشگران.
اخبار
هوش مصنوعی بدون سرور: Deploy on Cloudflare Workers AI در Hugging Face
Hugging Face با همکاری Cloudflare اعلام کرد سرویس Deploy on Cloudflare Workers AI راهاندازی شد؛ این سرویس امکان اجرای مدلهای هوش مصنوعی بر روی GPUهای سرورلس را بدون نیاز به مدیریت سرور فراهم میکند.
سختافزار
اجرای هوش مصنوعی مولد روی لپتاپ: چتبات Phi-2 با پردازنده متئور لیک اینتل
هاگینگ فیس و اینتل اجرای مدل هوش مصنوعی Phi-2 را روی لپتاپهای مجهز به پردازنده متئور لیک ممکن کردهاند؛ گامی برای استنتاج محلی مدلهای زبانی بزرگ.
اخبار
آموزش استفاده از خط لوله متنسازی هوش مصنوعی روی شتابدهنده اینتل گائودی ۲
اجرای مدلهای Llama 2 روی شتابدهنده Intel Gaudi 2 با خط لوله جدید Hugging Face ساده شد. در این مقاله روش استفاده و مزایای آن را میخوانید.
سختافزار
سرعت بیسابقه هوش مصنوعی Stable Diffusion با Core ML در اپل
هاگینگ فیس با بهرهگیری از بهینهسازیهای Core ML در WWDC23، سرعت اجرای مدلهای Stable Diffusion را در آیفون، آیپد و مک به طرز چشمگیری افزایش داده است. تجربهای روانتر از هوش مصنوعی مولد.
مدلها
اجرای چتبات شبیه ChatGPT با هوش مصنوعی روی یک GPU AMD؛ ممکن شد
در این مقاله وبلاگ هوش مصنوعی هما، نحوه اجرای مدل Vicuna روی یک کارت گرافیک AMD با فناوری ROCm را بررسی میکنیم. راهکاری مناسب برای ساخت چتبات شبیه ChatGPT
سختافزار
نقد و بررسی ایستگاههای AI: Gaudi2 vs Nvidia A100 عملکرد دو برابر
هنرمندانه، سریع، و دقیق: این مقاله به بررسی و مقایسهی قدرت کامپیوتری Gaudi2 و Nvidia A100 (80GB) در آموزش و اجرای مدلهای هوش مصنوعی میپردازد و نشان میدهد که Gaudi2 دو برابر سریعتر عمل میکند.