پژوهش
چگونه مدل 176B پارامتر BLOOM با استفاده از تکنیک‌های پیشرفته آموزش یافت
BLOOM، مدل زبان ۱۷۶ میلیارد پارامتر، با ترکیبی از معماری Megatron‑DeepSpeed و تکنیک‌های دروازه داده‌ای، توزیعی و حافظه‑بهینه آموزش یافت؛ دقت و سرعت حداکثری را در محیط‌های منابع محدود ارائه می‌دهد.
پژوهش
هوش مصنوعی و Wav2Vec2: راه‌حلی نو برای تشخیص صدا در فایل‌های بزرگ
این مقاله به بررسی استفاده از ساختار CTC در Wav2Vec2، تکنیک Chunking و stride برای تشخیص صدا در فایل‌های بلند و زمان واقعی می‌پردازد.
پژوهش
هوش مصنوعی در دسترس: معرفی Optimum، ابزار بهینه‌سازی ترنسفورمرها
Optimum، کتابخانهٔ متن‌باز Hugging Face، به‌وسیلهٔ تکنیک‌های کمیت‌سازی و بهینه‌سازی، اجرای سریع و مقرون به صرفه ترنسفورمرها را در سخت‌افزارهای مختلف امکان‌پذیر می‌سازد.
اخبار
چگونه با هوش مصنوعی سرعت استنتاج ترنسفورمرها را ۱۰۰ برابر کردیم؟
هافینگ فیس با ترکیب تکنیک های بهینه سازی و کامپایلرهای تخصصی، استنتاج ترنسفورمرها را برای مشتریان API خود ۱۰۰ برابر سریع تر کرد. در این مقاله بررسی می کنیم.
پژوهش
گرم‌آغاز کردن مدل‌های Encoder-Decoder با هوش مصنوعی؛ راهکاری برای بهبود عملکرد
در این مقاله از وبلاگ هوما، روش گرم‌آغاز کردن مدل‌های زبانی Encoder-Decoder با استفاده از checkpointهای BERT و GPT2 بررسی می‌شود. این تکنیک در ترجمه ماشینی، خلاصه‌سازی و سایر وظایف seq2seq عملکرد بهتری به ارمغان می‌آورد.
پژوهش
هوش مصنوعی و حل مکعب روبیک با دست رباتیک؛ جهشی در مهارت‌های فیزیکی
اوپن‌ای‌آی با ترکیب یادگیری تقویتی و تکنیک جدید ADR، دست رباتیک را آموزش داد تا مکعب روبیک را حل کند. این موفقیت نشان می‌دهد هوش مصنوعی می‌تواند در دنیای فیزیکی هم مهارت‌های پیچیده ای بیاموزد.
پژوهش
آشنایی با اطلس‌های فعال‌سازی؛ پنجره‌ای به درونیات هوش مصنوعی
تکنیک جدید اطلس‌های فعال‌سازی به محققان کمک می‌کند تا فرآیند پیچیده تصمیم‌گیری مدل‌های هوش مصنوعی را بهتر درک کنند و نقاط ضعف را شناسایی نمایند.
پژوهش
هوش مصنوعی با تقویت تکراری اهداف پیچیده را می‌آموزد
OpenAI تکنیک جدیدی برای ایمنی هوش مصنوعی معرفی کرده است که با تقویت تکراری، مدل‌ها را به جای یادگیری از داده‌های برچسب‌دار، به تجزیه وظایف پیچیده به زیروظایف ساده‌تر ترغیب می‌کند.
پژوهش
انقلاب در هوش مصنوعی: شبکه‌های عصبی خلوت با تنظیم‌گر L₀
اوپن‌ای‌آی با روشی نوین به شبکه‌های عصبی خلوت دست یافته است. این تکنیک با استفاده از تنظیم‌گر L₀، مدل‌هایی با پارامترهای کمتر و کارایی بالاتر می‌سازد. کشف این راهکار، گام مهمی در بهینه‌سازی مدل‌های هوش مصنوعی محسوب می‌شود.
اخبار
پیشرفت خیره‌کننده در رباتیک: هوش مصنوعی OpenAI از شبیه‌سازی تا واقعیت
OpenAI با تکنیک‌های نوین رباتیک، کنترل‌کننده‌هایی آموزش‌دیده در شبیه‌سازی را قادر ساخته تا در دنیای فیزیکی به تغییرات غیرمنتظره واکنش نشان دهند و وظایف ساده را انجام دهند. این پیشرفت، گامی بزرگ به سوی سیستم‌های حلقه بسته است.