اخبار
درمان مبتنی بر کوانتیزاسیون: یک مدل فشرده ۴ بیتی که از مدل اصلی با دقت کامل خود بهتر عمل می‌کند
یک پست وبلاگ از Multiverse Computing در مورد چهره در آغوش گرفته
مدل‌ها
یکپارچگی انقلابی Timm و Transformers: گامی نوین در هوش مصنوعی بینایی ماشین
یکپارچگی جدید کتابخانه‌های Timm و Hugging Face Transformers، بهره‌وری مدل‌های بینایی ماشین را افزایش می‌دهد. از استنتاج سریع تا تنظیم دقیق آسان‌تر، این همکاری دنیای AI را متحول می‌کند.
سخت‌افزار
اجرای هوش مصنوعی مولد روی لپ‌تاپ: چت‌بات Phi-2 با پردازنده متئور لیک اینتل
هاگینگ فیس و اینتل اجرای مدل هوش مصنوعی Phi-2 را روی لپ‌تاپ‌های مجهز به پردازنده متئور لیک ممکن کرده‌اند؛ گامی برای استنتاج محلی مدل‌های زبانی بزرگ.
سخت‌افزار
سرعت بی‌سابقه هوش مصنوعی Stable Diffusion با Core ML در اپل
هاگینگ فیس با بهره‌گیری از بهینه‌سازی‌های Core ML در WWDC23، سرعت اجرای مدل‌های Stable Diffusion را در آیفون، آی‌پد و مک به طرز چشمگیری افزایش داده است. تجربه‌ای روان‌تر از هوش مصنوعی مولد.
مدل‌ها
بهینه‌سازی هوش مصنوعی Stable Diffusion برای CPUهای اینتل با NNCF و Optimum
بهینه‌سازی Stable Diffusion با NNCF و Optimum روی CPUهای اینتل، راهکاری نوین برای تولید تصویر با هوش مصنوعی بدون نیاز به GPU و با حفظ کیفیت است.
مدل‌ها
کوانتیزاسیون ۴-بیتی و QLoRA؛ گامی بلند در دسترس‌پذیری هوش مصنوعی
با همکاری Hugging Face و کتابخانه bitsandbytes، مدل‌های زبانی بزرگ اکنون با دقت ۴-بیتی روی سخت‌افزار معمولی اجرا شده و امکان آموزش تطبیق‌گرها با QLoRA فراهم شده است.
مدل‌ها
هوش مصنوعی مولد روی CPU؛ معرفی Q8-Chat برای سرورهای Xeon اینتل
با تکنیک کوانتیزاسیون، مدل‌های زبانی بزرگ مثل Q8-Chat روی CPU اجرا می‌شوند؛ راهکاری مقرون‌به‌صرفه برای کسب‌وکارها بدون نیاز به GPU.