پژوهش
هوش مصنوعی خودتنظیم: معرفی روش قانونمحور برای همترازی مدلهای زبانی باز
با Constitutional AI، مدلهای زبانی باز میتوانند خودشان را بر اساس اصول تعریفشده اصلاح کنند. هاگینگفیس ابزار جدیدی برای تولید داده مصنوعی ارائه کرده است.
پژوهش
هوش مصنوعی در سطح بالاتر: لیستبندی حاکی از حواسپرتیها و راهحلها
بررسی کامل لیستبندی حواسپرتی مدلهای زبان بزرگ در هاجیینگ فیس، راهکارها، تأثیرات بر اعتمادسازی و چگونگی برقراری استانداردهای شفافیت در هوش مصنوعی
پژوهش
هوش مصنوعی باز: زبانهای مدل باز به عنوان عاملان هوشمند LangChain
مقاله تازه در زمینه مدلهای زبانی متنباز و تبدیل آنها به عاملان هوشمند LangChain را بررسی میکند؛ با نکات نوآورانه در توسعه و بهرهبرداری!
پژوهش
نحوه دو بار سریعتر کردن آموزش مدلهای LLM با Unsloth و 🤗 TRL در دنیای هوش مصنوعی
Unsloth، کتابخانهٔ سبکوزن همراه با 🤗 TRL، عکسالعمل دو مراتبهٔ سریعتر آموزش LLM را با کاهش مصرف حافظهٔ ۴۰٪ و بدون افت دقت ارائه میدهد؛ برای علاقهمندان به هوش مصنوعی بخوبی عمل میکند.
سختافزار
AMD و 🤗: تسریع LLMها بهصورت Out-of-the-Box با کارت گرافیک AMD
خبر جدید اینستیتوت هوش مصنوعی 🤗 و AMD، امکان اجرای سریع مدلهای زبانی بر کارتهای گرافیک MI300 را بدون نیاز به تغییر در کد، فراهم میکند.
پژوهش
هوش مصنوعی در تحلیل توییتهای بلایای طبیعی: مقایسه RoBERTa، Llama 2 و Mistral با LoRA
در این مقاله، عملکرد مدلهای RoBERTa، Llama 2 و Mistral 7B را در پردازش توییتهای بلایای طبیعی با استفاده از تکنیک LoRA بررسی میکنیم.
پژوهش
هوش مصنوعی در قالببندی چت: چالشهای نهخامنزه و راهکارهای Hugging Face
قالبهای گفتگو در Hugging Face از طریق Jinja، مدلهای زبانی را قادر میسازند تا با فرمت نامناسب مواجه نشوند و عملکرد بهینهای ارائه دهند. در این مقاله به چالشها و راهحلها میپردازیم.
پژوهش
هوش مصنوعی در عمل: روشهای بهینهسازی مدلهای زبان بزرگ
با بهرهگیری از تکنیکهای Flash Attention، حافظهی مبتنی بر کلید-مقدار و بهبود جاسازهای موقعیتی، مدلهای زبان بزرگ را میتوان در محیطهای تولیدی بهینهتر استفاده کرد.
پژوهش
کشف مزایا و معایب کوانتیزهسازی مدلهای هوش مصنوعی در Transformers
متن به بررسی مزایا و معایب دو روش کوانتیزهسازی، BitsAndBytes و AutoGPTQ، در کتابخانه Transformers میپردازد و راهنمایی برای انتخاب مناسب ارائه میدهد.
اخبار
هوش مصنوعی 180 میلیارد پارامتر: Falcon 180B، رقیب PaLM-2 در مدلهای متن باز
Falcon 180B، مدل زبان 180 میلیارد پارامتر و آموزش 3.5 ترلیون توکن، برترین مدل متن باز در مسابقات زبانی، در Hugging Face منتشر شد و رقابت میکند