La principale preoccupazione di una persona malata è che il medico operi nel suo interesse, e non si faccia condizionare da altri fattori. Ad esempio, nessun nero vorrebbe essere visitato da un dottore razzista. Per evitare che i pregiudizi danneggino il paziente, ci si potrebbe affidare all’oggettività di un algoritmo che sulla base di dati oggettivi consigli al dottore le scelte più opportune. Questo già avviene nella sanità statunitense, in gran parte privata e computerizzata per monitorare costi e benefici. Ma se anche l’algoritmo nasconde pregiudizi razziali, accorgersene e rivendicare il diritto alla cura diventa molto più complicato. E ciò che accade nella sanità statunitense è proprio questo.

LO HANNO SCOPERTO i ricercatori guidati dall’economista Sendhil Mullainathan dell’università di Chicago. In uno studio pubblicato sulla rivista «Science», il team di ricerca ha esaminato gli algoritmi utilizzati per stimare i fattori di rischio sanitario degli americani. Si tratta di sistemi informatici molto diffusi nel sistema sanitario degli Usa, utilizzati sia dalle compagnie assicurative che dagli amministratori pubblici per tenere sotto controllo i costi. In particolare, Mullainathan e colleghi hanno esaminato l’algoritmo utilizzato dalla United Health, la maggiore compagnia assicurativa sanitaria statunitense che da sola rappresenta il 14% del mercato. I ricercatori hanno confrontato il rischio calcolato dal software su un campione di circa cinquantamila assicurati con il loro reale stato di salute. Disaggregando i dati per colore della pelle (un dato a disposizione dei ricercatori ma non utilizzato dall’algoritmo), i ricercatori hanno osservato che l’algoritmo sottovaluta i rischi di salute per gli assicurati afro-americani escludendoli dall’accesso ai servizi per i pazienti ad alto rischio. Secondo i ricercatori, l’algoritmo abbassa dal 46% al 18% la percentuale di pazienti afro-americani inseriti in questi servizi, con notevoli risparmi per le società assicurative private. È prevedibile che lo squilibrio riguardi l’intero sistema sanitario statunitense e non solo, visto che gli algoritmi più diffusi si assomigliano e sono venduti in tutto il mondo.

SI BADI: nei suoi calcoli, l’algoritmo non «conosce» il colore della pelle del paziente. Perciò, la distorsione non deriva dal razzismo di qualche informatico. Come si spiega, allora? L’obiettivo di questi algoritmi, spiegano i ricercatori, è prevedere i costi sanitari previsti per il singolo individuo per ottimizzarli a vantaggio delle società assicurative. A parità di condizioni di salute, la spesa sanitaria dei bianchi è più elevata di quella dei neri, perché gli afro-americani ancor oggi accedono alla sanità con maggiore difficoltà.
In questo modo, per azzeccare i costi l’algoritmo sottostima automaticamente i rischi sanitari per i pazienti afro-americani, li esclude dai servizi più costosi e il circolo vizioso si auto-alimenta. È la sanità privata, bellezza.