در دنیای امروز که هوش مصنوعی به بخش جداییناپذیر تصمیمسازیهای سازمانی تبدیل شده است، پرسش اصلی دیگر قابلیتهای فنی نیست، بلکه چگونگی اداره مسئولانه این فناوری است. تازهترین گزارشها از جمله گزارشی که در EurekAlert منتشر شده، تأکید میکنند که حکمرانی مسئولانه هوش مصنوعی بدون "نظارت انسانی" ممکن نیست و مسئولیت نهایی بر عهده رهبران شرکتهاست، نه الگوریتمها.
چرا نظارت انسانی بر هوش مصنوعی ضروری است؟
الگوریتمهای هوش مصنوعی اگرچه قدرتمند هستند، اما درک اخلاقی، زمینه اجتماعی و قضاوت انسانی را ندارند. تصمیمهایی که این سیستمها میگیرند، میتوانند تأثیرات عمیقی بر زندگی افراد، حقوق شهروندی و عدالت اجتماعی بگذارند. به همین دلیل، تکیه صرف بر خروجی مدلها بدون حضور انسانی که پاسخگو باشد، میتواند به خطاهای سیستمی و سوگیریهای پنهان دامن بزند. نظارت انسانی به معنای طراحی فرایندی است که در آن انسانها بتوانند در مراحل کلیدی تصمیمگیری، ورودیهای هوش مصنوعی را بررسی، اصلاح یا رد کنند.
مسئولیت نهایی با رهبران شرکتهاست، نه الگوریتم
نکته کلیدی که این گزارش بر آن تأکید دارد، جابهجایی کانون توجه از فناوری به "حکمرانی سازمانی" است. رهبران شرکتها نمیتوانند خطاهای ناشی از استفاده از هوش مصنوعی را به گردن الگوریتم بیندازند. این مدیران هستند که باید پاسخگوی پیامدهای اجتماعی، حقوقی و اقتصادی سیستمهای هوش مصنوعی باشند. ایجاد ساختارهای شفاف پاسخگویی، تعیین نقشهای مشخص برای نظارت بر مدلها و تدوین سیاستهای اخلاقی، بخشی از وظایف رهبری است. به عبارت دیگر، حکمرانی مسئولانه هوش مصنوعی از اتاق هیئت مدیره آغاز میشود، نه از خط کد.
گامهای عملی برای حکمرانی مسئولانه هوش مصنوعی
برای پیادهسازی عملی این رویکرد، سازمانها باید اقدامهای مشخصی را در دستور کار قرار دهند. این اقدامها تنها به واحد فنی محدود نمیشود و نیازمند مشارکت همه سطوح مدیریتی است. در ادامه به چند اقدام کلیدی اشاره میکنیم:
- ایجاد کمیته اخلاق هوش مصنوعی متشکل از مدیران اجرایی، حقوقدانان و متخصصان فنی
- تدوین منشور مسئولیتپذیری روشن برای هر یک از سطوح سازمانی در قبال پیامدهای سیستمهای هوش مصنوعی
- برگزاری دورههای آموزشی منظم برای مدیران درباره ریسکها و الزامات اخلاقی هوش مصنوعی
- طراحی فرایندهای حسابرسی داخلی برای پایش مستمر عملکرد مدلها و شناسایی سوگیریها
- افزایش شفافیت در گزارشدهی به ذینفعان در مورد نحوه استفاده از هوش مصنوعی و نتایج آن
در نهایت، آنچه از این گزارش برمیآید این است که فناوری هوش مصنوعی صرفاً ابزاری در دست انسان است و مسئولیت استفاده از آن، همواره بر عهده انسان خواهد بود. سازمانهایی که این اصل را بپذیرند و ساختار حکمرانی خود را بر اساس آن بازطراحی کنند، در بلندمدت اعتماد عمومی و مشروعیت اجتماعی بیشتری کسب خواهند کرد.
پرسش‌های پرتکرار
چرا الگوریتمها نمیتوانند مسئولیت خطاها را بر عهده بگیرند؟
الگوریتمها فاقد درک اخلاقی و آگاهی هستند؛ آنها بر اساس دادههای قبلی عمل میکنند و توانایی پاسخگویی به پیامدهای اجتماعی را ندارند. به همین دلیل مسئولیت نهایی باید بر عهده انسانها، بهویژه مدیران ارشد شرکتها باشد.
نقش رهبران شرکتها در حکمرانی هوش مصنوعی چیست؟
رهبران شرکتها باید با ایجاد کمیتههای اخلاق، تدوین سیاستهای شفاف و طراحی فرایندهای نظارتی، اطمینان حاصل کنند که استفاده از هوش مصنوعی در راستای ارزشهای اخلاقی و قوانین جامعه باشد و پاسخگویی پیامدها را بپذیرند.
