به گزارش وبلاگ «هما»، اوپن‌ای‌آی اعلام کرد پل کریستیانو به عضویت هیئت مدیره بنیاد اوپن‌ای‌آی (OpenAI Foundation) و کمیته ایمنی و امنیت این نهاد درآمده است. این انتصاب در حالی صورت می‌گیرد که بحث‌های جهانی درباره خطرات و چالش‌های توسعه هوش مصنوعی بیش از پیش جدی شده است.
پل کریستیانو؛ پژوهشگر هم‌ترازی به جمع مدیران اوپن‌ای‌آی پیوست
پل کریستیانو یکی از شناخته‌شده‌ترین پژوهشگران حوزه هم‌ترازی (Alignment) هوش مصنوعی و از چهره‌های اثرگذار در طراحی روش‌های آموزش مدل‌های زبانی بزرگ است. او که سابقه فعالیت در مؤسسه تحقیقاتی هوش مصنوعی (MIRI) و همکاری با پروژه‌های پیشرو را دارد، پیش‌تر نیز در پژوهش‌های مربوط به بازخورد انسانی و بهینه‌سازی سیاست‌ها با تیم‌های مرتبط با اوپن‌ای‌آی همکاری داشته است.
حضور او در هیئت مدیره بنیاد اوپن‌ای‌آی، نشانه‌ای از توجه جدی این مجموعه به موضوعاتی همچون هم‌ترازی، ایمنی و استانداردسازی در توسعه هوش مصنوعی است. بنیاد اوپن‌ای‌آی به‌عنوان نهاد حاکمیتی اصلی این شرکت، نقش کلیدی در تعیین سیاست‌های بلندمدت و نظارت بر فعالیت‌های اجرایی دارد.
تقویت کمیته ایمنی و امنیت در دوران چالش‌برانگیز
کمیته ایمنی و امنیت اوپن‌ای‌آی وظیفه ارزیابی ریسک‌های مرتبط با مدل‌های جدید، تدوین پروتکل‌های آزمایش و اطمینان از رعایت استانداردهای اخلاقی را بر عهده دارد. افزوده شدن کریستیانو به این کمیته، ظرفیت فنی و تحلیلی آن را برای مواجهه با چالش‌های پیچیده‌ای مانند سوءاستفاده‌های احتمالی، تصمیم‌گیری‌های خودمختار و تأثیرات اجتماعی هوش مصنوعی به‌طور چشمگیری افزایش می‌دهد.
- سابقه پژوهشی گسترده در زمینه هم‌ترازی و ایمنی هوش مصنوعی از جمله مهم‌ترین عوامل این انتصاب است.
- این تغییر در شرایطی رخ می‌دهد که اوپن‌ای‌آی فشار فزاینده‌ای را از سوی نهادهای نظارتی و فعالان حوزه ایمنی تجربه می‌کند.
- پل کریستیانو پیش‌تر بر اهمیت شفافیت و پاسخگویی در توسعه مدل‌های پیشرفته تأکید کرده است و انتظار می‌رود این رویکرد را در تصمیم‌های جدید اعمال کند.
با این انتصاب، اوپن‌ای‌آی نه‌تنها به دنبال تقویت اعتماد عمومی به فعالیت‌های خود است، بلکه به‌دنبال ایجاد پل ارتباطی مستحکم‌تری بین تحقیقات دانشگاهی و کاربردهای تجاری هوش مصنوعی است. این حرکت را می‌توان گامی مهم در جهت تثبیت جایگاه ایمنی به‌عنوان اولویت اول توسعه فناوری دانست.
پرسش‌های پرتکرار
پل کریستیانو کیست؟
پل کریستیانو پژوهشگر برجسته حوزه هم‌ترازی هوش مصنوعی و از متخصصان شناخته‌شده در زمینه ایمنی و استانداردهای توسعه مدل‌های زبانی بزرگ است.
این انتصاب چه تأثیری بر سیاست‌های ایمنی اوپن‌ای‌آی دارد؟
حضور کریستیانو در هیئت مدیره بنیاد اوپن‌ای‌آی و کمیته ایمنی و امنیت، ظرفیت فنی این نهاد را برای ارزیابی ریسک‌ها و تدوین پروتکل‌های سخت‌گیرانه‌تر افزایش می‌دهد و به تقویت تعهد اوپن‌ای‌آی به توسعه مسئولانه هوش مصنوعی کمک می‌کند.
