Mijn ongevraagd advies van deze week gaat over AI inzetten in de zorg. Je vindt alle Ongevraagde Adviezen via deze Spotify playlist, deze editie beluister je meteen hier.
Voor wie is het advies deze keer?
In een tamelijk vaag persbericht kondigt de UMCG trots aan dat ze “als eerste in Europa” AI gaan gebruiken voor patiëntenzorg. Mijn advies is dan ook aan hen gericht deze week.
Ze gaan AI inzetten om de administratieve last te verlagen, dat lijkt me een goed idee?
Ja, dat klinkt goed, maar als je even dieper nadenkt, dan is het eigenlijk heel raar. Want als er een hoge administratieve last is, waar komt dat dan door? Moeten er (zoals vaak het geval is) veel nutteloze formulieren worden ingevuld? Ik moet zelf bijvoorbeeld als een student bij mij afstudeert een PDF invullen met de student zijn nummer, cijfer, tweede begeleider en motivatie, en daarna moet ik—ik verzin het niet!— diezelfde informatie ook nog in een webformulier intikken waaraan ik diezelfde PDF als bijlage moet bijvoegen. Dan kan je zeggen: AI erop en door, dan kan de AI voor jou het tweede formulier invullen. Maar je kan je ook afvragen waarom je eigenlijk twee keer hetzelfde werk zit te doen, en je kan je trouwens ook nog voor de eerste keer afvragen of het zo zinnig is dat een hoogleraar voor een bijbehorend salaris een studentnummer moet opzoeken en het gemiddelde van een paar deelcijfers moet uitrekenen tot precies op 0,5 afgerond! Administratieve last, die moeten we verminderen, maar daar moet je geen AI voor gebruiken, die duur is en ook nog een milieuonvriendelijk, daar moet je gewoon kritisch op reflecteren, en organisaties zouden het geld voor AI beter kunnen besteden aan mensen die op de werkvloer rondlopen, administratieve onzin turven en daarmee naar de higherups gaan.
Ok, ok, dus niet inzetten voor administratieve rompslomp, maar het kan toch heel handig zijn als zo’n chatbot meekijkt met de dokter?
Daar wringt voor mij dus meteen de schoen! Ondanks dat het persbericht rept van administratieve handelingen, als je verder leest zie je meteen dat het eigenlijk over zorgadvies gaat en dat dat administratiesausje er alleen overheen ligt tegen kritische stemmen. Want (ik citeer) “vragen gaan bijvoorbeeld over medicatiegebruik, pijnbestrijding en weer mogen sporten/werken/reizen na een operatie. “. Dat lijkt mij nu geen zinloos formulier, dat lijkt mij nou toch eens precies waar een dokter voor is, of niet dan, voor “vragen over medicatie”! Dan staan mijn nekharen werkelijk overeind hoor als we dat als administratief noemen.
Ik lees nog ff verder. “Dit soort vragen kosten dokters tijd” Ja dat is net zoals zeggen dat college geven mij als hoogleraar tijd kost en dat we daar een AI voor moeten inzetten (nou moet ik misschien opletten wat ik zeg of ik ben volgende week ook door een ipad op een stok vervangen!). Dit is de kern van het werk van een dokter, en natuurlijk is het misschien minder cool dan een openhartoperatie, dit moet ook gebeuren, net als dat ik als docent moet nakijken en naar een ouderavond moet.
Dit vervangen door een AI heeft allerhande korte- en langetermijnrisico’s. Op de kortetermijn maken zulke systemen nu eenmaal foutjes, dat is de AI van nu. Dan lees ik weer in het persbericht dat “De zorgverlener krijgt het door AI gemaakte conceptantwoord, controleert het en past het waar nodig nog aan.” Ik lees daar dat de tijd die iemand eraan kan besteden verkort, misschien wel halveert. Dus dan ga je naar “even snel er overheen kijken en door” en niemand die het ziet. “Waarom ben je zo lang met die patiënt bezig? De AI doet dat toch?”
En er sluipt zo een fout in. Wie gaat er het meest last hebben van zulke fouten? We weten als dat zowel de zorg als AI een groot seksisme-probleem hebben; ziektes waaraan vrouwen leiden worden minder vaak onderzocht, symptomen van vrouwen worden stelselmatig genegeerd en ga zo maar door, en voor niet-witte of niet-Westerse vrouwen geldt dat nog sterker. Een AI zal zeker zulke bias ook hebben, en zo krijgen we allemaal slechtere zorg maar sommige mensen nog slechter.
Op de lange termijn holt het beroep van zorgverlener totaal uit, hier een AI, daar een AI, al het mensenwerk wordt weggeprogrammeerd, en je mag als dokter alleen nog maar even een incisie maken waar de robot het zegt, en misschien zelfs dat al niet meer. Zorg voor mensen, en communiceren met mensen, dat is waar het beroep van een dokter ook omgaat. En wie denkt dat ik overdrijf, die moet eens in een moderne Albert Heijn gaan kijken wat het uitrollen van zelfscankassa’s gedaan heeft met de mens-tot-mens relatie van klant en kassa-medewerker.
Mag AI dan nooit in de zorg?
Ik krijg nu natuurlijk de naam om een enorme criticaster te zijn en tegen alle AI ooit, maar dat is helemaal niet zo, ik ben tegen AI die tussen mensen in gaat zitten. Recentelijk moest ik en tandartsrekening naar mijn zorgverzekeraar uploaden, en ik kreeg al meteen kiespijn want ik dacht al zo’n systeem op mijn werk waar ik 3x dezelfde informatie in moest kloppen. Maar nee! Ik maakte gewoon een foto van de rekening en AI deed het werk! Hop, hij las het bedrag uit, snapte ook nog dat het van een tandarts was en klikte voor mij de juiste classificatiecode aan. Ik liet het aan mijn man (ook IT-er) zien en we knipperden met onze ogen van ongeloof! Een IT-systeem dat iemand daadwerkelijk werk uit handen neemt, kan het bestaan? Nou het bestond, alles deed het en ik had het geld zo terug. Waarom is dit wel een goede inzet? Het vervangt een saaie administratieve handeling, OCR (letterherkenning) is een al decennialang goed begrepen en getest probleem, en de alignment tussen mens en machine is perfect, want het is in mijn belang als klant dat het bedrag klopt, dus ik controleer zeker goed.
Al die zaken (administratie, een goed begrepen probleem en oplossing en alignment) ontbreken in Groningen.
Het advies is dus hier: nee, niet doen.
