معرفی همفکری جمعی (Collective Alignment)
OpenAI برای اولین بار یک برنامه به نام همفکری جمعی راه‌اندازی کرده است که به منظور شناسایی اولویت‌های کاربران و به‌روزرسانی ویژگی‌های مدل‌ها به کار می‌رود.
شمارش و نتایج نظرسنجی جهانی
در این سال، بیش از ۱,۰۰۰ مردۀ از تمام قاره‌های زمین به سؤالاتی پاسخ دادند که دربارهٔ رفتار مناسب هوش مصنوعی و قضاوت اخلاقی پرسیده‌شده بود. نتایج نشان داد که محترمانه‌ترین پاسخ‌ها در محدودهٔ انصاف، شفافیت و عدم تبعیض قرار داشتند.
تأثیر این نظرات بر تنظیمات پیش‌فرض مدل‌ها
با مقایسهٔ نظرات مردم با Spec مدل موجود، OpenAI شناسایی کرد که صد درصد توصیه‌های بررسی‌شده در بخش‌های معقول، صادقانه و کنترل‌شونده بوده است، در حالی که برخی در بخش‌های افراطی نیاز به محدودیت بیشتر داشتند.
- افزایش پذیرش در شرایط عدم قطعیتی
- درج گام‌های محافظتی در مورد حریم خصوصی
- توجه بیشتر به تعادل میان افکارهٔ انسانی و هوشمندانه
پرسش‌های پرتکرار
همفکری جمعی چیست؟
همفکری جمعی یک رویکرد پژوهشی است که با جمع‌آوری نظرات گسترده‌ای از عموم مردم، سعی در به‌روزرسانی و تنظیم پیکربندی مدل‌های هوش مصنوعی دارد تا با ارزش‌های انسانی متنوع همسو شود.
این پروژه چه تأثیری بر کاربران نهایی دارد؟
با درک انتظارات و نگرانی‌های کاربران، تنظیمات پیش‌فرض مدل‌ها به گونه‌ای بهبود می‌یابد که رفتار هوش مصنوعی شفاف‌تر، عادلانه‌تر و کمتر متکثر از سوگیری‌های فردی باشد.
