We verzamelen steeds meer gegevens van patiënten, waar we dankzij groeiende computerkracht ook steeds meer mee kunnen. Wat gaan patiënten hier in de toekomst van merken?

Sarah Boers is arts en postdoc-onderzoeker aan het UMC Utrecht. Haar onderzoek richt zich op kunstmatige intelligentie (KI) in de zorg en op de ethische aspecten van zulke technieken. Op 20 januari is ze te gast bij het evenement Hersenziekten: Kunnen data je leven redden? in TivoliVredenburg in Utrecht, waar ze een licht laat schijnen op de ethische uitdagingen die KI met zich meebrengt.

'Koudwaterkoraalriffen zijn de regenwouden van de oceaan'
LEES OOK
'Koudwaterkoraalriffen zijn de regenwouden van de oceaan'

Big data wordt als grote belofte gezien in de gezondheidszorg, is dat terecht?

‘Big data op zichzelf niet. Het is een bron van informatie, waar je vervolgens iets mee kan doen. De combinatie van big data en kunstmatige intelligentie, die kan mogelijk wel krachtig zijn. Kunstmatige intelligentie stelt ons in staat om de zinvolle informatie uit al die data te halen. Bijvoorbeeld voor diagnostiek, prognostiek en ook therapieadvies. Er is alleen geen kant en klare oplossing. Er moet goed worden nagedacht over hoe die technieken worden ingezet, hoe de algoritmes bijvoorbeeld worden ontworpen en gebruikt.’

Zijn deze technieken er voor de patiënt, of maken ze voornamelijk het werk van de arts makkelijker?

‘Het zou uiteindelijk altijd beter moeten zijn voor de patiënt. Er komt ook niet per se een vermindering van de werkdruk voor artsen, eerder een verschuiving van werkdruk en verantwoordelijkheid. Waar je eerst richtlijnen gebruikte of zelf ging zoeken naar een behandeling, komt er nu een bepaald advies uit een klinische beslisondersteuning. Artsen moeten daarnaar leren kijken en die je op waarde leren schatten. Ik vind het gebruik van KI in de zorg zinvol als het de behandeling beter maakt en het de patiënt helpt een autonome keuze te maken. Daar heeft de arts een begeleidende rol in.’

Wat zijn de grootste ethische uitdagingen van KI in de zorg?

‘Een veel genoemd voordeel van KI-technieken is dat ze objectiever zijn dan een arts. Dat is deels ook zo, maar we moeten er rekening mee houden dat er ook een verschuiving is van subjectiviteit. Een dokter is subjectief, maar ook het algoritme gebruikt allerlei aannames. Er zit een bepaalde vertekening in data: er zijn patiëntgroepen waar geen data van is en die niet meegenomen worden in de ontwikkeling van algoritmes. Dus zo’n algoritme is ook subjectief en misschien ook wel subjectiever op grotere schaal.

De onzekerheid verschuift van de arts naar de basis waarop een algoritme een keuze maakt. Hoe slimmer het algoritme wordt, hoe lastiger het is om te doorgronden hoe zo’n algoritme tot een bepaalde uitkomst komt. Dat roept veel ethische vragen op. Kan je verantwoordelijkheid nemen als je niet weet hoe een advies tot stand komt? Hoe kan je als patiënt een zelfstandige keuze maken op basis van advies als je niet weet hoe het gevormd wordt?

Sarah Boers
Sarah Boers, arts en postdoc-onderzoeker aan het UMC Utrecht.

Daarnaast zijn er ook meer conceptuele vragen. Welke risico’s wil je kunnen voorspellen? Wil je alleen risico’s identificeren als je er ook echt iets mee kan? Er zijn nu bijvoorbeeld modellen die zich richten op de vroege opsporing van alzheimer. Daar is op het moment geen behandeling voor. Wil je dan wel weten dat je verhoogd risico loopt? Dat zijn allemaal vragen waar we over na moeten denken.’

Is er genoeg aandacht voor ethische uitdagingen?

‘Er is zeker aandacht voor, maar we zijn nog heel erg aan het zoeken hoe we ethische evaluatie parallel aan dit soort technologieën kunnen inzetten. Er is meer oog voor de ethiek dan tien jaar geleden, toch staat het nog wel in de kinderschoenen. Het is belangrijk om met alle betrokken partijen over deze ontwikkelingen na te denken. Niet ethiek van veraf, maar de ethiek echt inbedden in de ontwikkeling van de technieken. Samen pionieren én samen nadenken.’