جامعه‌ایدی‌کی در حوزه سلامت دیجیتال هشدار می‌دهند که داده‌های شایسته در بسیاری از مدل‌های یادگیری عمیق نهفته‌اند. بررسی‌های اخیر نشان می‌دهد که الگوریتم‌هایی که برای تشخیص بیماری‌های نفوذ پرتاننشن و استوا طراحی شده‌اند، اغلب نتایج محدودی از داده‌های جمع‌آوری‌شده از جمعیت‌های اروپایی یا آمریکایی می‌گیرند. این محدودیت باعث می‌شود مدل‌ها در مواجهه با تنوع ژنتیکی و زیست‌شناختی بیماران ساکن مناطق گرمسیر، عملکرد ضعیف‌تری داشته باشند.

خاستگاه داده‌ها و پیامدهای آن

سوگیری در داده‌های آموزشی یکی از چالش‌های اصلی طراحان هوش مصنوعی است. وقتی یک مدل فقط بر اساس تصاویر رادیولوژیک یا آزمایش‌های خون از بیمارستان‌های غربی آموزش می‌بیند، آن لنز را به بازارهای جهانی اعمال می‌کند.

  • ظرافت تشخیص بیماری‌های نادر استوا کاهش می‌یابد.
  • احتمال مثبت کاذب یا منفی کاذب در جمعیت‌های محلی بالا می‌رود.
  • اعتبار علمی و بالینی ابزارهایی هوش مصنوعی باکاهش می‌افتد.

تأثیر بر سلامت جهانی و دسترسی عادلانه

بیماری‌هایی مانند مالاریا، لیشمانیا و دفتاری در مناطق گرمسیر شایع‌ترند. اگر ابزارهای تشخیصی مبتنی بر هوش مصنوعی نتوانند این تنوع را با در نظر گرفته، جمعیت‌های آسیب‌پذیر این مناطق دسترسی عادلانه به تشخیص دقیق نداشته خواهند داشت.

راهکارها برای کاهش سوگیری مدل‌ها

پژوهشگران توصیه می‌کنند که توسعه‌دهندگان از داده‌های متنوع و چند فرهنگی استفاده کنند. ایجاد همکاری بین‌المللی برای جمع‌آوری داده‌های محلی و هنجاریابی مجدد مدل‌ها بر اساس جامعه‌های بومی، گامی ضروری به سمت پایداری و انصاف در هوش مصنوعی پزشکی است.

پرسش‌های پرتکرار

دقیقاً هوش مصنوعی چه اندیشه‌ای در تشخیص بیماری‌های استوا دارد؟

هوش مصنوعی می‌تواند در تشخیص از تصاویر رادیولوژیک و داده‌های بالینی سریع‌تر از پزشک عمل کند، اما اگر داده‌های آموزشی متنوع نباشد، دقت آن برای جمعیت‌های بومی کاهش می‌یابد.

چطور می‌توانیم سوگیری در مدل‌های هوش مصنوعی پزشکی را کاهش دهیم؟

از طریق جمع‌آوری و استفاده از داده‌های متنوع جمعیت‌های مختلف، همکاری بین‌المللی و بازرسی سنجش عملکرد مدل بر اساس زیرگروه‌های مختلف جمعیت.