En varm potatis: I ännu en berättelse om de skadliga effekterna av felaktig artificiell intelligens stäms det största sjukförsäkringsbolaget i USA, UnitedHealthcare, för påståenden om att de använder en felaktig AI-modell. Systemet sägs felaktigt ha nekat hälsotäckning till kritiska äldre patienter och höll inte med om läkarnas beslut.
Stämningen som lämnats in i den amerikanska distriktsdomstolen för District of Minnesota kommer från dödsbo efter två nu avlidna män som behövde långtidsvård i postakuta anläggningar. Familjerna till dessa män tvingades betala sammanlagt 210 000 dollar ur fickan för sin terapi och vård innan de dog.
Stämningen hävdar att UnitedHealth upprepade gånger och felaktigt vägrade att betala sjukvårdsanspråken från de två seniorerna, som använde Medicare Advantage Plans. Den tillägger att sådana incidenter har pågått sedan åtminstone 2020, när UnitedHealthcare förvärvade postakut vårdföretaget Navihealth.
Rättegången följde en utredning av Statliga nyheter om användningen av en AI-algoritm som heter nH Predict utvecklad av Navihealth. Algoritmen används för att förutse hur länge patienter kommer att stanna på rehab efter akuta skador, sjukdomar eller händelser. Postakut vård omfattar t.ex. äldreboenden och rehabcenter. Algoritmen gör enligt uppgift detta genom att undersöka en databas med medicinska fall från 6 miljoner patienter och uppskatta en patients medicinska behov och vistelsetid.
Rättegången hävdar att AI-systemet har en felfrekvens på 90 % och åsidosatte läkares åsikter om postakut vård. Dessutom hävdar att nH Predict misslyckades med att ta hänsyn till individuella patientbehov, såsom samsjukligheter (som har flera tillstånd eller sjukdomar) och insjuknade i en sjukdom när de vistades på en anläggning.
En annan fördömande del av rättegången hävdar att även om endast ett fåtal patienter överklagade avslag på täckning som var baserade på nH Predict-uppskattningar, ångrades över 90 % av dem genom interna överklagandeprocesser eller federala förvaltningsrättsdomare.
“I enlighet med Medicare Advantage Plans har patienter som har en tredagars sjukhusvistelse vanligtvis rätt till upp till 100 dagar på ett vårdhem”, står det i stämningsansökan, med hänvisning till Stats utredning. “Med användningen av nH Predict AI-modellen, [UnitedHealthcare] avbröt betalningen på en bråkdel av den tiden. Patienter vistas sällan på ett vårdhem mer än 14 dagar innan de börjar få avslag på betalning.”
Tidigare NaviHealth-anställda berättade för Stat att när UnitedHealth tog över flyttades fokus från att hjälpa patienter till att tjäna pengar och hålla postakuta vårdtider så korta som möjligt.
UnitedHealth-chefen som övervakar NaviHealth, Patrick Conway, citerades i en företagspodcast som sa: “Om [people] gå till ett äldreboende, hur får vi ut dem så fort som möjligt?”
nH Predict används fortfarande idag. UnitedHealths dotterbolag Optum Health berättade Ars Technica: “NaviHealths förutsägelseverktyg används inte för att göra täckningsbestämningar. Verktyget används som en guide för att hjälpa oss att informera leverantörer, familjer och andra vårdgivare om vilken typ av hjälp och vård patienten kan behöva både i anläggningen och efter att ha återvänt hem. Täckningsbeslut baseras på CMS-täckningskriterier och villkoren för medlemmens plan. Denna rättegång har ingen merit, och vi kommer att försvara oss kraftfullt.”
