در میان گمانه‌زنی‌های آینده‌نگرانه و هیاهوی رسانه‌ای حول فناوری‌های نوظهور، مقاله‌ای با عنوان «استبداد پوچ هوش مصنوعی» (The Pathetic Tyranny of Artificial Intelligence) که در رسانه‌های معتبر مانند Observer منتشر شده، نگاهی از جنس هشدار و نقد به چارچوب‌های کنونی حاکم بر توسعه هوش مصنوعی دارد. این دیدگاه استدلال می‌کند که برخلاف ترس‌های کلان‌نظرانه از یک ماشین آگاه که بر کره زمین حکومت می‌کند، خطر واقعی و فوری‌تر، در «استبدادهای کوچک اما پراکنده» نهفته است؛ یعنی الگوریتم‌هایی که به صورت نامرئی و بدون نظارت کافی، سرنوشت معیشت، دسترسی به اطلاعات و حتی مسائل امنیتی افراد را رقم می‌زنند.
استبداد الگوریتمی در ظاهرِ بی‌طرفی
یکی از ویژگی‌های بارز این نوع «استبداد» غیرواقعی بودن آن است. برخلاف دیکتاتوری‌های کلاسیک که با زور و دیده‌شدن اعمال می‌شوند، الگوریتم‌های یادگیری ماشین اغلب تحت عنوان «نجات‌بخشی منابع»، «کارایی» یا «بی‌طرفی داده‌محور» عمل می‌کنند. این نقاب فنی باعث می‌شود که خطاها و تبعیض‌های پنهان در سیستم‌ها به عنوان «آسیب‌های ناخواسته» رد شوند، در حالی که در عمل، الگوی تکرارشونده‌ای از انحراف قدرت ایجاد می‌کنند. وقتی یک الگوریتم صلاحیت افراد برای دریافت وام، استخدام یا حتی استفاده به عنوان یک مأموریت امنیتی را مشخص می‌کند، در واقع حاکمیت مستقیم بر زندگی انسان‌ها را بدون هیچ‌گونه پاسخگویی دموکراتیک اعمال می‌کند.
ضعف در پاسخگویی و نظارت
مفهوم «پوچی» یا «ضعف» (Pathetic) در عنوان مقاله، به شکاف بزرگ بین قدرت عظیم این سیستم‌ها و ناتوانی‌شان در ارائه توضیحات منطقی یا انسانی برای تصمیماتشان اشاره دارد. سیستم‌های هوش مصنوعی پیشرفته اغلب به صورت «جعبه‌سیاه» عمل می‌کنند؛ یعنی ورودی‌ها و خروجی‌ها مشخص است، اما فرآیند تصمیم‌گیری درون شبکه‌های عصبی عمیق برای انسان‌ها غیرقابل درک است. این عدم شفافیت، یک چالش قانونی و اخلاقی بزرگی ایجاد می‌کند. چگونه می‌توان از حقوق شهروندی دفاع کرد وقتی که مبنای ابطال آن حقوق، یک الگوریتمی است که حتی سازندگان اصلی آن هم نمی‌دانند دقیقاً چرا آن تصمیم‌گیری خاص را اتخاذ کرده است؟
از ابزار به قاضیِ مطلق
ما در روند تبدیل هوش مصنوعی از یک «ابزار دستیار» به «قاضی مطلق» قرار داریم. ابتدا الگوریتم‌ها برای پیشنهاد فیلم یا موسیقی استفاده می‌شدند، سپس برای هدف‌گیری تبلیغات، و اکنون برای فیلتر کردن اخبار، ارزیابی ریسک جرم و تخصیص منابع دولتی. هر گام به جلو در این مسیر، قدرت تصمیم‌گیری را از دست انسان‌ها می‌گیرد و به سیستم‌هایی می‌سپارد که فاقد همدلی، درک بافت فرهنگی و درک عواقب انسانی هستند>.
- عدم شفافیت در منطق تصمیم‌گیری الگوریتم‌های پیچیده
- احتمال تقویت تبعیض‌های تاریخی موجود در داده‌های آموزشی
- فقدان چارچوب قانونی قوی برای بازخواست سیستم‌های حیثیتی مأمور امنیت
- تأثیرات روان‌شناختی احساس «نظارت دائمی» و تنه‌گویی بر شهروندان
نتیجه‌گیری این است که مواجهه با «استبداد هوش مصنوعی» نیازمند بیداری اخلاقی و قانونی فوری است. ما نباید اجازه دهیم که «پیچیدگی» به بهانه‌ای برای فرار از « مسئولیت» تبدیل شود. توسعه هوش مصنوعی باید با تمرکز بر حقوق بنیادین انسان، شفافیت کامل و نظارت مستقل انسانی همراه باشد، وگرنه به جای خدمت به بشریت، به ابزاری برای کنترل پنهان و غیرقابل‌بازگشت تبدیل خواهد شد.
پرسش‌های پرتکرار
استبداد هوش مصنوعی به چه معناست؟
به وضعیتی اشاره دارد که در آن الگوریتم‌های بدون نظارت و نامعتبر، به جای انسان‌ها تصمیمات کلیدی درباره معیشت، امنیت و دسترسی به اطلاعات می‌گیرند و به این ترتیب کنترل غیرمستقیم و پنهانی بر جامعه اعمال می‌کنند.
آیا هوش مصنوعی واقعی است یا یک ترس بزرگ‌نمایی شده؟
خطرهای ذکر شده در متن هشدارهای واقع‌بینانه‌ای از عملکرد سیستم‌های فعلی هوش مصنوعی هستند که در حال حاضر در بخش‌هایی مانند فروش و امنیت فعال‌ند و نیازمند اصلاحات قانونی و اخلاقی فوری می‌باشند.
