گزارش‌های تازه‌ای منتشر شده که نشان میدهد پلیس با کمک الگوریتم‌های هوش مصنوعی، رانندگانی را که الگوی رانندگی آن‌ها "مظنون" ارزیابی می‌شود، بدون دلیل کافی متوقف میکند. این اقدام در حالی انجام می‌شود که گروه‌های حقوق مدنی نسبت به پیامدهای گسترده این فناوری هشدار جدی داده‌اند.
پلیس و الگوریتم‌های تشخیص "رانندگی مظنون"
بر اساس گزارش Tom's Hardware، سیستم‌های هوش مصنوعی به کار گرفته‌شده در نیروی پلیس، داده‌های رانندگی نظیر سرعت، تغییر خط و توقف‌های ناگهانی را تحلیل می‌کنند تا الگوهای مشکوک را شناسایی کنند. در صورتی که الگوریتم امتیاز پرخطری برای راننده ثبت کند، مأموران پلیس خودرو را متوقف و راننده را مورد بازرسی قرار می‌دهند. این سیستمها در ظاهر برای پیشگیری از جرائم به کار می‌روند، اما اجرای آن سوالاتی جدی درباره حریم خصوصی و عدالت برانگیخته است.
هشدار حقوقی‌ها: دامی برای افراد بی‌گناه
یک گروه حقوق مدنی در گزارش جدید خود اعلام کرده است که سیستم‌های نظارت مبتنی بر هوش مصنوعی، به دلیل طراحی ناقص و داده‌های آموزشی سوگیرانه، تعداد بیشتری از افراد بی‌گناه را نسبت به مجرمان واقعی به دام می‌اندازند. به عبارت دیگر، این الگوریتم‌ها ممکن است به اشتباه رفتاری عادی یک راننده را به عنوان الگوی پرخطر تفسیر کنند و باعث توقف‌های غیرضروری و نقض حقوق شهروندان شوند.
چالش‌های حریم خصوصی و شفافیت در نظارت هوشمند
مهم‌ترین نگرانی درباره استفاده از هوش مصنوعی در پلیس، عدم شفافیت در معیارهای تصمیم‌گیری و فقدان نظارت مستقل بر این سامانه‌هاست. به علاوه، داده‌های جمع‌آوری شده از رانندگان ممکن است بدون رضایت آگاهانه آنان ذخیره‌سازی، تحلیل و برای مدتی نامعلوم نگهداری شود. برخی از مهم‌ترین چالش‌های این فناوری به این شرح است:
- نبود معیارهای روشن برای تعریف «رانندگی مظنون» توسط الگوریتم
- احتمال تبعیض سیستم‌های هوش مصنوعی علیه برخی اقشار و مناطق
- نقض حریم خصوصی به دلیل ذخیره‌سازی داده‌های موقعیت مکانی و رفتار رانندگی
- عدم وجود سازوکار شفاف برای اعتراض به توقف‌هایی که بر اساس الگوریتم انجام می‌شود
کارشناسان معتقدند هرگونه استفاده از هوش مصنوعی در نظارت پلیس باید با تدوین مقررات سخت‌گیرانه، بازبینی مستمر و ایجاد امکان اعتراض شهروندان همراه باشد. در غیر این صورت، فناوری‌های نوین به جای کمک به امنیت، می‌توانند به ابزاری برای نقض حقوق شهروندان تبدیل شوند.
پرسش‌های پرتکرار
چرا پلیس از هوش مصنوعی برای متوقف کردن رانندگان استفاده میکند؟
پلیس از الگوریتم‌های هوش مصنوعی برای شناسایی الگوهای رانندگی مظنون استفاده میکند تا قبل از وقوع جرم، رانندگان پرخطر را متوقف و بازرسی کند.
نگرانی اصلی کارشناسان درباره سیستم‌های نظارتی هوش مصنوعی چیست؟
نگرانی اصلی این است که این سیستمها به دلیل سوگیری و خطا در تشخیص، تعداد زیادی از افراد بی‌گناه را متوقف می‌کنند و حریم خصوصی شهروندان را نقض می‌کنند.
