Röntgen-KIs machen ihren Job in marginalisierten Gruppen nicht.
...und niemanden sollte das überraschen. Es gibt historisch schlicht weniger medizinische Daten zu marginalisierten Gruppen - angefangen mit Frauen.
Das Schlimmste ist eigentlich, dass dafür scheinbar nicht direkt kontrolliert wurde. 🤮
...und niemanden sollte das überraschen. Es gibt historisch schlicht weniger medizinische Daten zu marginalisierten Gruppen - angefangen mit Frauen.
Das Schlimmste ist eigentlich, dass dafür scheinbar nicht direkt kontrolliert wurde. 🤮
Reposted from
Science Magazine
A new study finds one of the most cited #AI models used to scan chest x-rays doesn’t accurately detect potentially life-threatening diseases in marginalized groups, including women and Black people. scim.ag/42uhnPO
Comments
the skin color is just not detectable on an x-ray. it had to know "more" for this