حدود ۴۰۰ پژوهشگر و دانشمند برجسته حوزه هوش مصنوعی از ۳۴ کشور جهان با انتشار فراخوانی مشترک، خواستار ایجاد نهادی بین‌المللی برای نظارت بر توسعه و به‌کارگیری سیستم‌های پیشرفته هوش مصنوعی شده‌اند. این درخواست در حالی مطرح می‌شود که نگرانی‌ها درباره خطرات وجودی و امنیتی این فناوری روزبه‌روز افزایش می‌یابد.
چرا نظارت بین‌المللی بر هوش مصنوعی ضروری است؟
امضاکنندگان این فراخوان معتقدند که سرعت پیشرفت هوش مصنوعی از توان نهادهای ملی و شرکت‌ها برای مدیریت ریسک‌های آن فراتر رفته است. به گفته آن‌ها، تعهدات داوطلبانه غول‌های فناوری برای مهار خطرات، فاقد ضمانت اجرایی کافی است و نمی‌تواند جلوی پیامدهای پیش‌بینی‌نشده را بگیرد.
تمرکز اصلی این نهاد پیشنهادی بر تدوین استانداردهای جهانی برای «مهار» هوش مصنوعی پیشرفته و همچنین ایجاد سامانه‌ای برای ثبت حوادث امنیتی مرتبط با این سامانه‌ها خواهد بود. چنین سازوکاری می‌تواند به دولت‌ها و پژوهشگران کمک کند تا زودتر از وقوع فاجعه، الگوهای خطرناک را شناسایی کنند.
امضاکنندگان برجسته؛ از جفری هینتون تا یوشوا بنجیو
در میان امضاکنندگان این فراخوان، نام «جفری هینتون» و «یوشوا بنجیو» به چشم می‌خورد؛ دو تن از تأثیرگذارترین چهره‌های تاریخ هوش مصنوعی که اغلب از آن‌ها با عنوان پدرخوانده‌های این حوزه یاد می‌شود. حضور این افراد وزن علمی و اعتبار ویژه‌ای به این درخواست بخشیده است.
به نظر می‌رسد که این دانشمندان دیگر به اصلاحات تدریجی و خودتنظیمی صنعت اعتمادی ندارند و خواستار اقدام فوری جامعه جهانی هستند. آن‌ها تأکید دارند که همکاری بین‌المللی باید پیش از آنکه دیر شود، جایگزین رقابت بی‌ضابطه شرکت‌ها در توسعه مدل‌های پیشرفته شود.
نهاد پیشنهادی چه اختیاراتی باید داشته باشد؟
بر اساس اعلام امضاکنندگان، نهاد بین‌المللی نظارت بر هوش مصنوعی باید مجموعه‌ای از اختیارات و وظایف کلیدی را بر عهده بگیرد:
- تدوین استانداردهای الزامی و شفاف برای ایمنی مدل‌های پیشرفته هوش مصنوعی
- راه‌اندازی پایگاه داده جهانی برای ثبت و بررسی حوادث امنیتی مرتبط با هوش مصنوعی
- هماهنگی بین کشورها برای پیشگیری از سوءاستفاده‌های نظامی و تروریستی از این فناوری
- ارزیابی مستقل ریسک‌ها پیش از عرضه عمومی مدل‌های جدید
اجرای این پیشنهادها مستلزم توافق گسترده بین‌المللی و ایجاد نهادهایی با قدرت اجرایی واقعی است؛ نه صرفاً کمیته‌های مشورتی که فقط به صدور بیانیه بسنده می‌کنند.
مسیر پیش رو؛ از درخواست تا عمل
فراخوان ۴۰۰ دانشمند را باید هشدار جدی به جامعه جهانی دانست. اگرچه تبدیل این درخواست به معاهده یا سازمان بین‌المللی زمان‌بر خواهد بود، اما می‌تواند نقطه عطفی در گفتمان حکمرانی هوش مصنوعی باشد. سؤال اصلی این است که آیا دولت‌ها و شرکت‌های فناوری پیش از وقوع بحرانی بزرگ، به این صدا گوش خواهند داد؟
پرسش‌های پرتکرار
چرا دانشمندان خواستار نهاد بین‌المللی نظارت بر هوش مصنوعی شدند؟
زیرا تعهدات داوطلبانه شرکت‌ها کافی نیست و خطرات هوش مصنوعی پیشرفته نیازمند سازوکار مستقل و جهانی برای استانداردسازی و ثبت حوادث است.
کدام دانشمندان برجسته این فراخوان را امضا کرده‌اند؟
جفری هینتون و یوشوا بنجیو از پدرخوانده‌های هوش مصنوعی، همراه حدود ۴۰۰ دانشمند از ۳۴ کشور این درخواست را امضا کرده‌اند.
