هوش مصنوعی به‌سرعت در حال تغییر شیوه‌ی تولید و انتشار محتوا در فضای عمومی است. از نظرات ارسالی برای نهادهای دولتی تا بحث‌های سیاسی آنلاین، الگوریتم‌ها حالا می‌توانند متونی تولید کنند که کاملاً واقعی‌نما به نظر می‌رسند. اما این توانایی یک پرسش اساسی را مطرح می‌کند: اگر پشت هر متنی یک انسان نباشد، چه کسی مسئولیت آن را بر عهده می‌گیرد؟
دب روی، استاد رسانه و هنرهای دانشگاه MIT و مدیر مرکز ارتباطات سازنده (CCC)، در مقاله‌ای تازه با عنوان «چه کسی پشت کلمات ایستاده است؟» به این معضل پرداخته است. او معتقد است در عصر هوش مصنوعی، باید فردی برای هر قطعه‌ی متن در زندگی عمومی «پاسخگو» باشد، فارغ از اینکه آن متن را انسان نوشته یا ماشین تولید کرده است.
چرا پاسخگویی در متون عمومی حیاتی است؟
نهادهای دولتی اغلب هنگام تدوین سیاست‌ها، فرآیند دریافت نظرات عمومی را برگزار می‌کنند و شهروندان می‌توانند بازخورد خود را ارسال کنند. کارشناسان سال‌ها تجربه‌ی شناسایی نظرات جعلی و تولید انبوه را داشته‌اند، اما هوش مصنوعی این کار را بسیار سخت‌تر کرده است. الگوریتم‌ها می‌توانند نظراتی بنویسند که نه‌تنها واقعی به نظر می‌رسند، بلکه تشخیص ساختگی بودن آن‌ها از دید انسانی تقریباً ناممکن است.
این وضعیت فقط به نظرات عمومی محدود نمی‌شود. در گفتگوهای مدنی، از شبکه‌های اجتماعی تا مقالات خبری، امکان تولید محتوای بدون مسئول وجود دارد و این یعنی انتشار اطلاعات نادرست یا جهت‌دار بدون آنکه هیچ‌کس پاسخگوی پیامدهای آن باشد.
پیشنهاد دب روی برای پاسخگویی هوش مصنوعی
دب روی در مقاله‌ی خود، که در نشریه‌ی «بولتن دانشمندان اتمی» منتشر شده، بر مفهوم «answerability» یا «پاسخگویی» تأکید کرده است. به باور او، حتی اگر یک متن با کمک هوش مصنوعی نوشته شود، باید موجودیت حقیقی یا حقوقی وجود داشته باشد که مسئولیت محتوای آن را بر عهده بگیرد. بدون این پاسخگویی، فضای عمومی به میدانی برای انتشار بی‌مسئولیت‌انه‌ی کلمات تبدیل می‌شود و اعتماد عمومی به گفتگوهای مدنی از بین می‌رود.
او همچنین به لزوم طراحی سازوکارهایی اشاره دارد که تولیدکنندگان محتوا، چه انسان و چه ماشین، ملزم به اعلام مسئولیت شوند. این امر می‌تواند شامل شفافیت در فرایند تولید متن، اعلام استفاده از هوش مصنوعی و تعیین مسئول حقوقی برای پیامدهای احتمالی باشد.
- هر متن عمومی باید صاحب و پاسخگوی مشخصی داشته باشد.
- هوش مصنوعی بدون سیستم مسئولیت‌پذیری، تهدیدی برای اعتماد عمومی است.
- نیاز به قوانین الزام‌آور برای شفاف‌سازی مشارکت الگوریتم‌ها در تولید محتوا وجود دارد.
- گفتگوهای مدنی سالم تنها با وجود مکانیزم‌های پاسخگویی امکان‌پذیر است.
تأثیر بر سیاست‌گذاری و آینده گفتگو
راهکارهای پیشنهادی دب روی می‌تواند تأثیر مستقیمی بر فرآیندهای سیاست‌گذاری داشته باشد. دولتها و نهادها برای اطمینان از صحت بازخوردهای عمومی، باید به فناوری شناسایی متون تولیدشده توسط هوش مصنوعی و همچنین مقرراتی برای الزام به اعلام منبع مجهز شوند. در غیر این صورت، دموکراسی مشارکتی با چالش جدی مواجه خواهد شد.
در عصر رسانه‌های دیجیتال و الگوریتم‌های زبانی، بازنگری در مفهوم مسئولیت در ارتباطات دیگر یک انتخاب نیست؛ بلکه ضرورتی انکارناپذیر است. اگر نتوانیم برای کلماتی که در فضای عمومی جریان دارند، پاسخگویی تعریف کنیم، هوش مصنوعی نه ابزاری برای پیشرفت، بلکه وسیله‌ای برای بی‌اعتمادی و هرج‌ومرج ارتباطی خواهد بود.
پرسش‌های پرتکرار
چرا هوش مصنوعی تهدیدی برای مشارکت مدنی است؟
هوش مصنوعی می‌تواند نظرات و متون واقعی‌نمایی تولید کند که تشخیص آن‌ها از نظرات واقعی بسیار دشوار است. این امر تشخیص بازخورد جعلی در فرآیندهای عمومی مانند دوره‌های نظرخواهی دولتها را تقریباً غیرممکن می‌سازد و می‌تواند روند تصمیم‌گیری مدنی را مخدوش کند.
راهکار پیشنهادی دب روی چیست؟
دب روی معتقد است باید برای هر متن عمومی، حتی اگر با کمک هوش مصنوعی تولید شده باشد، یک شخص یا نهاد پاسخگو وجود داشته باشد. او ایجاد مکانیزم‌های شفافیت و الزام به اعلام نقش الگوریتم‌ها در تولید محتوا را پیشنهاد می‌کند تا مسئولیت کلمات در فضای عمومی روشن باشد.
