آنتروپیک، یکی از پیشروترین شرکت‌های حوزه هوش مصنوعی، همواره بر ایمنی و توسعه مسئولانه تأکید داشته است. اما با مطرح شدن احتمال کناره‌گیری بنیان‌گذاران، این پرسش جدی مطرح می‌شود که کنترل این سیستم‌های قدرتمند به چه کسی سپرده خواهد شد و معماری حاکمیتی فعلی تا چه اندازه می‌تواند پاسخگوی این چالش باشد.
معمای جانشینی در آنتروپیک
داریو آمودی، مدیرعامل آنتروپیک، و خواهرش دانیلا آمودی، مدت‌هاست به عنوان ضامن اصلی مأموریت «ایمنی محوری» این شرکت شناخته می‌شوند. با این حال، گزارش‌هایی که به تازگی منتشر شده، نشان می‌دهد سازوکار مشخصی برای انتقال کنترل هوش مصنوعی در غیاب بنیان‌گذاران طراحی نشده و همین امر نگرانی کارشناسان را برانگیخته است.
نقش تراست های نظارتی در مهار قدرت
آنتروپیک از ابتدا ساختاری غیرمتعارف را اتخاذ کرده است؛ از جمله ایجاد یک «تراست منافع بلندمدت» که نقش مهمی در نظارت بر تصمیمات کلان دارد. اما این تراست نیز در نهایت وابسته به اعضایی است که توسط هیئت مدیره تعیین می‌شوند و مشخص نیست در آینده چگونه استقلال و جهت‌گیری ایمنی خود را حفظ خواهد کرد.
چالش‌های پیش روی کنترل مؤثر
بسیاری از پژوهشگران معتقدند حتی با وجود مکانیزم‌های داخلی، کنترل کامل یک هوش مصنوعی فوق پیشرفته نیازمند شفافیت و پاسخگویی بیرونی است. تجربه سایر شرکت‌های بزرگ نشان داده که بدون فشار نهادهای عمومی و دولتی، اهداف ایمنی به مرور تحت الشعاع منافع تجاری قرار می‌گیرند. در این میان، آنتروپیک باید به پرسش‌های اساسی زیر پاسخ دهد:
- چه نهادی صلاحیت تصمیم‌گیری درباره دامنه توانمندی‌های هوش مصنوعی را خواهد داشت؟
- آیا اصول «اخلاق هوش مصنوعی» پس از کناره‌گیری بنیان‌گذاران همچنان در اولویت باقی می‌ماند؟
- چه سازوکاری برای نظارت عمومی و مستقل وجود دارد یا باید ایجاد شود؟
آینده‌ای مبهم اما نه غیرقابل مدیریت
در حالی که برخی از تحلیلگران نسبت به آینده این انتقال ابراز نگرانی می‌کنند، برخی دیگر معتقدند آنتروپیک با گسترش ساختارهای حاکمیتی چندلایه می‌تواند الگویی برای سایر شرکت‌های هوش مصنوعی باشد. با این حال، فقدان اجماع جهانی درباره نحوه کنترل هوش مصنوعی، به این چالش عمق بیشتری می‌بخشد.
پرسش‌های پرتکرار
پس از خروج بنیان‌گذاران آنتروپیک، چه کسی کنترل هوش مصنوعی را بر عهده می‌گیرد؟
طبق ساختار حاکمیتی آنتروپیک، یک تراست با اختیارات ویژه برای هدایت و نظارت بر اهداف و اصول ایمنی طراحی شده است، اما جزئیات دقیق آن همچنان بحث‌برانگیز است.
خطرات احتمالی این انتقال کنترل چیست؟
تمرکز قدرت در نهادی ناشفاف به‌ویژه در خصوص مدل‌های پیشرفته می‌تواند چالش‌هایی مانند انحراف از مأموریت اصلی یا کاهش پاسخگویی عمومی ایجاد کند.
