محصولات
هوش مصنوعی: Optimum‑NVIDIA بر روی پردازندههای NVIDIA عملکرد 28× سریعتر ارائه میدهد
Optimum‑NVIDIA، کتابخانهای ساده از هاب هگینگ فیس، عملکرد مدلهای زبان بزرگ را روی GPUهای NVIDIA تا 28 برابر سرعت میدهد و از فرمت FP8 بهره میبرد.
سختافزار
AMD و 🤗: تسریع LLMها بهصورت Out-of-the-Box با کارت گرافیک AMD
خبر جدید اینستیتوت هوش مصنوعی 🤗 و AMD، امکان اجرای سریع مدلهای زبانی بر کارتهای گرافیک MI300 را بدون نیاز به تغییر در کد، فراهم میکند.
مدلها
چطور نمره DROP به عملکرد مدلهای هوش مصنوعی را به چالش می‑کشاند
پژوهشی دقیق در Open LLM Leaderboard نشان داد که مدلهای پیشآموزشپذیر، در آزمون DROP، عملکردی کمتر از حد انتظار دارند؛ عواملی که این نتیجه را بیان میکنند و راهکارهای پیشنهادی در این مقاله بررسی شدهاند.
پژوهش
افزایش دسترسی به هوش مصنوعی: راهنمای جامع فکتری کامیک از Hugging Face
رعایت نکات فنی و استفاده از Inference API، راهی ساده برای دسترسی به مدلهای هوش مصنوعی در فکتری انیمه کامیک است. این راهنما گامبهگام مراحل پیادهسازی را توضیح میدهد.
پژوهش
هوش مصنوعی در عمل: روشهای بهینهسازی مدلهای زبان بزرگ
با بهرهگیری از تکنیکهای Flash Attention، حافظهی مبتنی بر کلید-مقدار و بهبود جاسازهای موقعیتی، مدلهای زبان بزرگ را میتوان در محیطهای تولیدی بهینهتر استفاده کرد.
پژوهش
بهینهسازی مدلهای LLM با AutoGPTQ: راه حل هوش مصنوعی سبکوزن
Hugging Face با ادغام AutoGPTQ در Transformers، مدلهای زبانی بزرگ را برای کاربران، پژوهشگران و توسعهدهندگان سبکتر و مقرون به صرفهتر میکند.
پژوهش
هوش مصنوعی در اپل: Swift Transformers برای اجرای LLMهای بر دستگاه
Hugging Face با انتشار Swift Transformers، امکان اجرای LLMهای بزرگ بر روی دستگاههای اپل را فراهم میکند؛ تبدیل مدلهای PyTorch به Core ML را ساده میسازد.
پژوهش
هوش مصنوعی رمزنگاریشده: راهی نوین برای حفظ حریم خصوصی در LLMها
این مقاله به بررسی روشهای رمزنگاریٔ LLMها با استفاده از FHE میپردازد و نشان میدهد چگونه شرکت Zama همزمان حریم خصوصی کاربران و مالکیت فکری مدل را حفظ میکند
پژوهش
آژانگهای هوش مصنوعی را با JavaScript در Hugging Face به کار ببرید
نسخه جدید کتابخانه Agents.js را معرفی میکنیم؛ راهی نوین برای کنترل مدلهای زبانی بزرگ با استفاده از JavaScript و دسترسی به ابزارهای متنوع، چه در مرورگر و چه در سرور. مبحثی جذاب برای توسعهدهندگان و پژوهشگران هوش مصنوعی.
مدلها
هوش مصنوعی متنباز: اکوسیستم جامع LLM در هاجنگ فیس و روندهای آینده ۲۰۲۳
اقدامات هاجنگ فیس برای ایجاد اکوسیستم متنباز و ابزارهای کامل LLM بهرباب تولید مدلهای متنآفرین، دیتاست، فضا و راهنمای سرویسدهی، شامل Llama 2 و PEFT، در سال ۲۰۲۳ روشن شد.