اخبار
پل کریستیانو به هیئت مدیره بنیاد اوپن‌ای‌آی پیوست؛ گامی برای ایمنی هوش مصنوعی
پل کریستیانو، پژوهشگر برجسته هم‌ترازی، به هیئت مدیره بنیاد اوپن‌ای‌آی و کمیته ایمنی و امنیت پیوست تا تعهد به توسعه ایمن هوش مصنوعی را تقویت کند.
پژوهش
هوش مصنوعی بیگانه؛ چالش‌های هم‌ترازی و نیاز به همکاری جهانی
یوکوب پاچوکی از OpenAI در مقاله «ذهن بیگانه» درباره هوش مصنوعی پیشرفته و خطرات ناهم‌ترازی هشدار می‌دهد و خواستار همکاری بین‌المللی و ایمنی قوی‌تر است.
پژوهش
هوش مصنوعی ایمن‌تر با استدلال؛ روش جدید هم‌ترازی اوپن‌ای‌آی
OpenAI از استراتژی جدید هم‌ترازی برای مدل‌های o1 رونمایی کرد؛ مدل مستقیم مشخصات ایمنی را می‌آموزد و درباره آن‌ها استدلال می‌کند. این رویکرد ایمنی را متحول می‌کند.
پژوهش
هوش مصنوعی خودتنظیم: معرفی روش قانون‌محور برای هم‌ترازی مدل‌های زبانی باز
با Constitutional AI، مدل‌های زبانی باز می‌توانند خودشان را بر اساس اصول تعریف‌شده اصلاح کنند. هاگینگ‌فیس ابزار جدیدی برای تولید داده مصنوعی ارائه کرده است.
پژوهش
هوش مصنوعی ایمن نیازمند مشارکت دانشمندان علوم اجتماعی است
مقاله جدید OpenAI بر ضرورت همکاری دانشمندان علوم اجتماعی برای ایمنی بلندمدت هوش مصنوعی تأکید دارد. این مقاله خواستار مشارکت بیشتر پژوهشگران این حوزه است.