In duizenden Amerikaanse ziekenhuizen worden algoritmes gebruikt om patiënten met het hoogste risico op te sporen. Maar die algoritmes bevoordeligen blanke patiënten in het nadeel van Afro-Amerikaanse patiënten, zo staat te lezen in Science. 

Professor Ziad Obermeyer, School of Public Health, University of California, Berkeley, vertelt dat hij de bias bijna bij toeval ontdekte, bij het analyseren van gegevens van een niet nader vernoemd groot academisch ziekenhuis. 

Het ziekenhuis berekende, met behulp van een standaardalgoritme in de volksgezondheid, een ‘risicoscore’ en selecteerde de 3% meest zieke of  kwetsbare patiënten (diabetes, hartfalen, emfyseem ...), die vervolgens een nummer konden bellen, een afspraak konden maken voor dezelfde dag of thuis gevolgd worden. "Van twee patiënten, een Afro-Amerikaanse en een blanke, met exact dezelfde score, had de zwarte patiënt in de loop van het volgende jaar zelfs meer gezondheidsproblemen.”  

"Blanke patiënten maakten twee keer meer kans om in het programma te komen", zegt de professor. Het algoritme hield geen rekening met het 'ras', maar hét probleem met het programma was dat het de gezondheidstoestand van zwarte patiënten onderschatte, omdat het alleen was gebaseerd op de zorgkosten van de patiënten.

Maar zwarte patiënten genereren gemiddeld minder kosten dan blanke patiënten die even gezond zijn", zegt Ziad Obermeyer. Dat is het resultaat van een diepgewortelde ongelijkheid die maakt dat Afro-Amerikanen minder vaak naar de dokter gaan en wanneer ze toch gaan, schrijven de artsen minder onderzoeken of minder zorg voor. 

"We denken dat we werken met biologische variabelen die de fysiologie objectief weergeven", zegt hij. “Maar in feite zijn alle gegevens in het algoritme gebaseerd op financiële transacties tussen het ziekenhuis en de verzekeringsmaatschappijen. Dit is het basisprobleem van deze algoritmen.”

Het bedrijf dat de software commercialiseert aanvaardde de suggestie van de onderzoekers om het algoritme aan te passen en om 80% van het onevenwicht weg te werken. Maar, zo zegt prof. Obermeyer, het algoritme aanpassen is niet meer dan een eerste stap. We moeten werk maken van databases die in de eerste plaats kijken naar de reële gezondheidstoestand van de patiënt. 

“Het is vreemd dat de grootste bron van gegevens in de geneeskunde afkomstig is van financiële transacties”, zo besluit de professor. “De zorgsector neemt de nood aan kwaliteitsvolle gegevens niet serieus. De huidige informatie over de gezondheid van de mensen is bijna accidenteel”. 

Dissecting racial bias in an algorithm used to manage the health of populations