بازگشت به چت هما هما وبلاگ
اخبار زنده هوش مصنوعی
۱۹۲۴ خبر
آموزش تولید متن با هوش مصنوعی: بررسی روش‌های Decoding در مدل‌های زبانی در این مقاله از وبلاگ هوما، روش‌های مختلف تولید متن با مدل‌های زبانی مانند جستجوی حریصانه، beam search، sampling و top-p را بررسی می‌کنیم و نحوه پیاده‌سازی آن‌ها را با کتابخانه transformers یاد می‌گیریم. آموزش آموزش مدل زبانی از صفر با Transformers و Tokenizers در Hugging Face در این مقاله یاد می‌گیرید چگونه با کتابخانه‌های Transformers و Tokenizers یک مدل زبانی اختصاصی از صفر آموزش دهید و آن را برای وظایف پایین‌دستی بهینه کنید. اخبار اوپن‌ای‌آی پایتورچ را استاندارد کرد؛ تحولی در توسعه هوش مصنوعی اوپن‌ای‌آی با استانداردسازی فریم‌ورک یادگیری عمیق خود روی پایتورچ، مسیر توسعه مدل‌های هوش مصنوعی را هموارتر کرد. این تصمیم چه تأثیری بر آینده دارد؟ پژوهش قوانین مقیاس‌پذیری مدل‌های زبانی؛ راز پیشرفت هوش مصنوعی تحقیقات OpenAI نشان می‌دهد عملکرد مدل‌های زبانی با افزایش داده، پارامترها و توان محاسباتی به شکلی قابل پیش‌بینی بهبود می‌یابد. این مقاله به بررسی این قوانین و پیامدهای آن برای آینده هوش مصنوعی می‌پردازد. پژوهش هوش مصنوعی و پدیده دابل دسانت؛ راز افت و خیز دوباره مدل‌ها پژوهش جدید OpenAI نشان می‌دهد عملکرد مدل‌های هوش مصنوعی با بزرگ‌تر شدن، ابتدا بهبود، سپس افت، و دوباره بهبود می‌یابد. این پدیده «دابل دسانت» نام دارد. مدل‌ها انتشار نسخه نهایی GPT-2 با ۱.۵ میلیارد پارامتر؛ گامی در شفاف‌سازی هوش مصنوعی OpenAI بزرگ‌ترین نسخه GPT-2 با ۱.۵ میلیارد پارامتر را به‌همراه کد و وزن‌های مدل برای تشخیص خروجی منتشر کرد. این آخرین گام از انتشار مرحله‌ای GPT-2 است. مدل‌ها تنظیم دقیق GPT-2 از ترجیحات انسانی ما مدل زبانی GPT-2 با پارامتر ۷۷۴ میلیون را با استفاده از بازخورد انسانی برای وظایف مختلف تنظیم دقیق کرده‌ایم و با موفقیت ترجیحات برچسب‌گذارهای انسانی خارجی ر پژوهش نوآوری OpenAI: سنجش مقاومت هوش مصنوعی در برابر حملات ناشناخته OpenAI متدی جدید برای سنجش مقاومت شبکه‌های عصبی در برابر حملات خصمانه پیش‌بینی‌نشده معرفی کرده است. متریک UAR کارایی مدل‌ها را در برابر تهدیدات ناگهانی ارزیابی می‌کند. مدل‌ها انتشار نسخه کامل GPT-2 با ۷۷۴ میلیون پارامتر توسط OpenAI OpenAI مدل کامل GPT-2 با ۷۷۴ میلیون پارامتر را منتشر کرد. این انتشار همراه با توافقنامه متن‌باز برای اشتراک مدل و گزارش تجربه همکاری با محققان است. پژوهش انتقال استحکام خصمانه بین انواع اختلال؛ پژوهش جدید OpenAI در حوزه هوش مصنوعی پژوهش جدید OpenAI نشان می‌دهد استحکام خصمانه مدل‌های هوش مصنوعی می‌تواند بین انواع مختلف اختلال‌ها انتقال یابد و امنیت مدل‌ها را بهبود بخشد.