سختافزار
سام奥特曼: هوش مصنوعی به حافظه RAM شما در لپتاپ نیاز دارد
سرپرست انپی آی اعلام کرد اجرای مدلهای هوش مصنوعی پیشرفته روی دستگاههای شخصی، نیازمند افزایش قابل توجه ظرفیت رم است؛ آیا سختافزار فعلی کاربران کافی است؟
سختافزار
llama.cpp: مدیریت هوشمند مدلهای LLM برای اجرای سریع در محیطهای محلی
با معرفی جدید در llama.cpp، مدیریت مدلهای هوش مصنوعی به صورت پویا امکانپذیر شد. این نسخه، با امکانات Dynamic Loading و Multi-Process، بهرهوری در اجرای LLMهای محلی را دوچند برابر افزایش میدهد.
پژوهش
هوش مصنوعی در اپل: Swift Transformers برای اجرای LLMهای بر دستگاه
Hugging Face با انتشار Swift Transformers، امکان اجرای LLMهای بزرگ بر روی دستگاههای اپل را فراهم میکند؛ تبدیل مدلهای PyTorch به Core ML را ساده میسازد.