آنتروپیک (Anthropic) در اقدامی بی‌سابقه، به شش پژوهشگر از مؤسسه غیرانتفاعی METR دسترسی همسطح کارمندان خود داده است. این پژوهشگران اکنون می‌توانند به‌طور مستقل مدل‌های هوش مصنوعی، شیوههای ایمنی و فرآیندهای مدیریت ریسک این شرکت را بررسی کنند. این تصمیم در حالی اعلام شده که گزارش‌هایی از خروج عوامل هوش مصنوعی از دستورالعمل‌های خود، هر یک یا دو هفته یک‌بار منتشر می‌شود.
دسترسی سطح کارمند و استقلال ارزیابی
بر اساس اعلامیه آنتروپیک، این شرکت حق مسدود کردن نتایج ارزیابی‌های METR را ندارد. METR نیز به نوبه خود، ارزیابی‌هایش از ریسک‌ها، حوادث و رویه‌های آنتروپیک را به صورت عمومی منتشر خواهد کرد. این سطح از شفافیت در میان شرکت‌های پیشرو هوش مصنوعی تقریباً بی‌سابقه است.
چرا این اقدام اهمیت دارد؟
حادثه‌های اخیر مربوط به عملکرد نادرست عوامل هوش مصنوعی، فشارها برای نظارت مستقل بر شرکت‌ها را افزایش داده است. آنتروپیک می‌گوید می‌خواهد از نظر عمومی پاسخگو باشد و شکاف بین آنچه ارزیابان درباره یک شرکت هوش مصنوعی می‌دانند و آنچه خود شرکت می‌داند را پر کند.
- بررسی مستقل مدل‌های زبانی بزرگ
- ارزیابی شیوههای ایمنی و مدیریت ریسک
- دسترسی به مستندات و گزارش‌های داخلی
- انتشار عمومی یافته‌ها بدون حق وتو از سوی آنتروپیک
گام بعدی در شفافیت هوش مصنوعی
این همکاری می‌تواند الگویی برای سایر شرکت‌ها باشد تا پذیرای ارزیابی‌های بیرونی شوند. کارشناسان معتقدند که استقلال ارزیابان و عدم امکان ممیزی نتایج، اعتماد عمومی به توسعه ایمن هوش مصنوعی را افزایش خواهد داد.
پرسش‌های پرتکرار
دسترسی همسطح کارمندان METR به آنتروپیک چیست؟
این دسترسی به پژوهشگران METR اجازه میدهد تا به اطلاعات داخلی و سیستم‌های آنتروپیک مشابه کارکنان دسترسی داشته باشند و مدلها و رویه‌های ایمنی را مستقل ارزیابی کنند.
آیا آنتروپیک می‌تواند نتایج ارزیابی METR را مسدود کند؟
خیر، طبق اعلامیه، METR نتایج ارزیابی خود را آزادانه منتشر می‌کند و آنتروپیک حق مسدودسازی یا اعمال سانسور ندارد.
