در روزهایی که فناوری باید امنیت کاربران را تضمین کند، گزارش نمایش پروفایل دختران زیر سن قانونی در اپلیکیشن همسریابی «آدم و حوا» زنگ خطر جدی را به صدا درآورده است. ۲۴ نهاد حقوق بشری با ارسال نامه‌ای به گوگل و متا، خواستار حذف این اپلیکیشن از فروشگاه‌های برنامه و توقف تبلیغات آن در شبکه‌های اجتماعی شده‌اند. این ماجرا نه‌تنها یک بحران حقوقی و اخلاقی، بلکه آزمونی برای ظرفیت فناوری‌های نوین، به‌ویژه هوش مصنوعی، در پایش محتوا و حفاظت از کودکان است.

چرا هوش مصنوعی در مهار چنین اپلیکیشن‌هایی اهمیت دارد؟

اپلیکیشن‌های همسریابی و دوست‌یابی به دلیل ماهیت کاربرمحور خود، به‌راحتی می‌توانند به بستری برای سوءاستفاده از کودکان تبدیل شوند. نبودِ سازوکارهای کارآمد احراز هویت و سن‌سنجی، در کنار حجم بالای داده‌ها، باعث می‌شود تا پایش دستی محتوا عملاً غیرممکن شود. اینجا جایی است که هوش مصنوعی می‌تواند با تحلیل خودکار تصاویر، اسناد هویتی و الگوهای رفتاری، کاربران زیر سن قانونی را شناسایی و پیش از نمایش عمومی، حساب آن‌ها را مسدود کند.

درخواست ۲۴ نهاد حقوق بشری از گوگل و متا

طبق گزارش منتشرشده، این سازمان‌ها در نامه‌ای مشترک که ۸ اکتبر ۲۰۲۶ منتشر شده، از مدیران گوگل و متا خواسته‌اند تا دسترسی به اپلیکیشن آدم و حوا را متوقف کنند. همچنین درخواست بستن حساب‌های تبلیغاتی مرتبط با این اپلیکیشن در اینستاگرام و تردز مطرح شده است. این اقدام یک روز پیش از «روز جهانی دختر» (۱۱ اکتبر) صورت گرفته تا بر حساسیت موضوع افزوده شود. امضاکنندگان معتقدند نمایش کودکان به‌عنوان گزینه‌های احتمالی ازدواج، به عادی‌سازی ازدواج کودکان و نقض حریم خصوصی آن‌ها دامن می‌زند.

راهکارهای هوش مصنوعی برای جلوگیری از تکرار این اتفاق

برای آنکه دیگر شاهد چنین بحران‌هایی نباشیم، پلتفرم‌های همسریابی و فروشگاه‌های برنامه باید از قابلیت‌های هوش مصنوعی به شکل جدی استفاده کنند. مهم‌ترین راهکارها عبارت‌اند از:

  • احراز هویت چندمرحله‌ای: ترکیب تشخیص چهره با مدارک هویتی معتبر برای جلوگیری از ثبت‌نام کاربران با سن جعلی.
  • پایش هوشمند تصاویر و متن: استفاده از مدل‌های بینایی رایانه و پردازش زبان طبیعی برای شناسایی محتوای مشکوک مرتبط با کودکان.
  • مسدودسازی خودکار حساب‌ها: طراحی الگوریتم‌هایی که با شناسایی الگوهای رفتار پرخطر، حساب کاربر را قبل از بررسی انسانی مسدود کنند.
  • همکاری با فروشگاه‌های برنامه: انتشار فهرست سیاه اپلیکیشن‌های متخلف به‌صورت برخط تا گوگل‌پلی و اپ‌استور سریع‌تر واکنش نشان دهند.
  • شفافیت الگوریتمی: الزام پلتفرم‌ها به گزارش مستمر نحوه عملکرد هوش مصنوعی در حفظ امنیت کودکان.

بدون تردید، اعمال این راهکارها نیازمند فشار نهادهای مدنی و وضع قوانین سختگیرانه از سوی دولت‌هاست. هوش مصنوعی به‌تنهایی معجزه نمی‌کند، اما می‌تواند ابزار قدرتمندی در اختیار مدافعان حقوق کودکان باشد. حالا نوبت گوگل و متا است که در برابر این درخواست بین‌المللی پاسخگو باشند و نشان دهند که اولویت اول آن‌ها، سود نیست؛ بلکه ایمنی کاربران است.

پرسش‌های پرتکرار

چرا ۲۴ نهاد حقوق بشری خواستار حذف اپلیکیشن آدم و حوا شده‌اند؟

این نهادها پس از گزارش نمایش پروفایل دختران ۱۳ تا ۱۷ ساله به‌عنوان گزینه‌های ازدواج در این اپلیکیشن، خواستار حذف آن از گوگل‌پلی و توقف تبلیغاتش در اینستاگرام و تردز شده‌اند تا جلوی عادی‌سازی ازدواج کودکان و نقض حریم خصوصی آن‌ها گرفته شود.

هوش مصنوعی چه نقشی در جلوگیری از نمایش پروفایل کودکان در سامانه‌های همسریابی دارد؟

هوش مصنوعی می‌تواند با احراز هویت چندمرحله‌ای، تحلیل تصاویر و متن، شناسایی الگوهای رفتاری پرخطر و مسدودسازی خودکار حساب‌های مشکوک، مانع ثبت‌نام کاربران زیر سن قانونی و نمایش پروفایل آن‌ها در چنین پلتفرم‌هایی شود.