معرفی مشکل: استفاده از هوش مصنوعی در سیاست‌گذاری‌های کلیدی
در هفتهٔ پیش، مدیران بالادستی درهمه‌پوش سیاست‌های واشنگتن، ادعا کردند که برای بهبود تصمیم‌گیری در حوزه‌های مهمی چون اقتصاد، دفاع و مهاجرت، از سیستم‌های مبتنی بر هوش مصنوعی بهره می‌گیرند. این اظهارات پیامدهای قابل توجهی در میان منتقدان و حامیان دارد.
نقش دموکرات‌ها در تأمل بر شفافیت
گرچه ردهٔ کندسی‌ها سرمایهٔ و نوآوری می‌باشند، معترضان به این موضوع اعتقاد دارند که هر گونه تصمیمی که بر پایهٔ الگوریتم‌های پیچیده گرفته می‌شود، نیازمند شفافیت کاملی است؛ به طوری که عواملی بسته به نحوهٔ آموزش داده‌شدهٔ مدل‌ها، خطر تورم یا نابرابری را مطرح می‌کنند. دموکرات‌ها برای دریافت «receipts» یا شواهدی از صحت و اعتبار داده‌ها، و نتایج آزماشی سیستم‌های هوش مصنوعی که در سیاستگذاری استفاده می‌شوند، درخواست کرده‌اند.
چالش‌های اخلاقی و قانونی
در عین حالی که تکنولوژی نسبتاً نوین است، استفادهٔ گستردهٔ الگوریتم‌ها بدون چارچوب‌های قوی قانونی می‌تواند موانع جدی در زمینهٔ حریم خصوصی، تعصب الگوریتمی و تصمیم‌گیری بی‌طرفی را ایجاد کند. این چالش‌ها در مقالهٔ Korea Times به طور واضح بیان شده‌است و دولت آمریکایی با پذیرش این محدودیت‌ها، در مسیر صحة و عدالت است.
- عدم شفافیت در الگوریتم‌ها و داده‌های ورودی
- احتمال تعصب و تبعیض در خروجی‌های تصمیم‌گیری
- نیاز به ثبت و دسترسی عمومی به «receipts» یا شواهد در مورد عملکرد سیستم‌ها
- تهدید به حریم خصوصی شایسته جمع‌آوری و پردازش داده‌ها
پرسش‌های پرتکرار
دولت واشنگتن چه شواهدی برای استفادهٔ هوش مصنوعی در تصمیم‌گیری ارائه کرده‌است؟
مستندات و گزارش‌های داخلی که اشاره به الگوریتم‌های مورد استفاده در شناسایی روندهای اقتصادی و تأیید سیاست‌های دفاعی دارند، منتشر شده‌اند؛ اما شواهد کامل هنوز پیش‌رس نیستند.
دموکرات‌ها چطور می‌توانند شفافیت بیشتری در این اعمال فراهم کنند؟
شاید با ایجاد نهاد‌های نظارتی مستقل، تدوین قانون برای هدایت استفادهٔ اخلاقی هوش مصنوعی، و درخواست اعلام دقیق «receipts» یا داده‌های ورودی و خروجی که در تصمیم‌گیری دخیل هستند، شفافیت بیشتری حاصل شود.
