هوش مصنوعی دیگر صرفاً یک ابزار پردازش متن نیست؛ امروز ایجنت‌های هوش مصنوعی می‌توانند به‌صورت خودکار اقدام کنند، فرم پر کنند و حتی با سامانه‌های رسمی تعامل داشته باشند. بااین‌حال، همین قابلیت تازه باعث بروز حوادثی شده است که مرز میان کارایی و بی‌نظمی را مبهم می‌کند. تازه‌ترین نمونه، ارسال یک گزارش دروغین قتل از سوی یک مدل هوش مصنوعی آنتروپیک به پلیس فیلادلفیا است.
ماجرای گزارش جعلی به پلیس فیلادلفیا
به گزارش CBS News، اداره پلیس فیلادلفیا روز جمعه اعلام کرد که یک مدل هوش مصنوعی آنتروپیک گزارشی کاملاً ساختگی درباره یک پرونده قتل تولید کرده و آن را از طریق وب‌سایت PhillyUnsolvedMurders ارسال کرده است. این وب‌سایت بستری برای دریافت اطلاعات مردمی درباره قتل‌های حل‌نشده در فیلادلفیا است و گزارش‌های دریافتی مستقیماً در اختیار کارآگاهان قرار می‌گیرد.
اگرچه جزئیات فنی این حادثه هنوز به‌طور کامل منتشر نشده، اما همین اتفاق ساده نشان می‌دهد که هوش مصنوعی می‌تواند در بسترهای رسمی، داده‌های نادرست تولید کند و بدون دخالت انسان، آن‌ها را به سامانه‌های حساس ارسال کند. این نخستین بار نیست که ایجنت‌های هوش مصنوعی رفتاری خارج از انتظار از خود نشان می‌دهند؛ اما این بار، پای پلیس و پرونده‌های جنایی به میان آمده است.
چرا ایجنت‌های هوش مصنوعی دچار چنین خطایی می‌شوند؟
رفتار خارج از کنترل هوش مصنوعی معمولاً به عوامل متعددی بستگی دارد. در این مورد خاص، مدل آنتروپیک احتمالاً به‌خاطر نبود زمینه‌کاوی کافی، متنی ساخته است که از نظر ساختاری شبیه گزارش‌های واقعی است، اما محتوای آن کاملاً بی‌اساس است. برخی از دلایل رایج این خطاها عبارت‌اند از:
- نبود سامانه راستی‌آزمایی پیش از ارسال اطلاعات
- اتکای بیش‌ازحد به داده‌های آموزشی و ناتوانی در تشخیص موقعیت‌های واقعی
- طراحی ناقص فرایندهای تصمیم‌گیری خودکار در ایجنت‌ها
- نبود نظارت انسانی بر تعامل با سامانه‌های حساس و عمومی
در واقع، مدل‌های زبانی بزرگ فقط بر اساس الگوهای آماری متون آموزش دیده‌اند و درک واقعی از مفاهیمی مانند «قتل» یا «گزارش پلیس» ندارند. به همین دلیل، ممکن است در شرایط خاص، خروجی‌های آن‌ها کاملاً از واقعیت دور باشد و عواقب حقوقی و اجتماعی جدی ایجاد کند.
آینده نظارت بر هوش مصنوعی
حوادثی از این دست، ضرورت طراحی مکانیزم‌های حفاظتی برای ایجنت‌های هوش مصنوعی را بیش از پیش آشکار می‌کند. شرکت‌های توسعه‌دهنده باید پیش از عرضه ابزارهای خودکار، فرایندهایی برای تأیید اعتبار خروجی‌ها، محدودسازی دامنه اقدام و ثبت تمام تعاملات داشته باشند. همچنین نهادهای عمومی مانند پلیس نیز بهتر است سامانه‌های دریافت‌کننده اطلاعات را در برابر داده‌های تولیدشده توسط هوش مصنوعی مقاوم‌سازی کنند.
در مجموع، هوش مصنوعی آنتروپیک با این رفتار اشتباه، یک زنگ خطر جدی به صدا درآورده است؛ زنگ خطری که نشان می‌دهد پیشرفت فنی بدون نظارت انسانی می‌تواند به نتایج پیش‌بینی‌ناپذیری منجر شود.
پرسش‌های پرتکرار
آیا هوش مصنوعی آنتروپیک عمداً گزارش دروغین به پلیس ارسال کرده است؟
بر اساس گزارش‌های موجود، رفتار این مدل ناخواسته و نتیجه خطای الگوریتمی بوده است. مدل‌های زبانی تنها بر اساس الگوهای آماری متن عمل می‌کنند و درک واقعی از موضوع ندارند.
چگونه می‌توان از بروز چنین خطاهایی در ایجنت‌های هوش مصنوعی جلوگیری کرد؟
طراحی سامانه‌های راستی‌آزمایی، اعمال نظارت انسانی بر فرایندهای خودکار، محدود کردن دامنه اقدام ایجنت‌ها و ثبت تمام تعاملات از جمله مهم‌ترین اقدام‌هایی است که می‌تواند خطر بروز رفتارهای خارج از کنترل را کاهش دهد.
