Hoe ontstaat vertrouwen in Artificial Intelligence? Wanneer is dat vertrouwen terecht? En wat betekent dat voor de arts-patiëntrelatie? Allemaal vragen waar we nog geen antwoorden op hebben. Om die antwoorden te vinden wordt een voorstel gedaan voor een nieuw ELSA Lab. Karin Jongsma bereidt dit voorstel voor met leden van de kennisalliantie TU/e, WUR, UU, UMC Utrecht (EWUU) en in partnerschap met de Patiëntenfederatie Nederland.

Wat het is? “ELSA staat voor ‘Ethical, Legal and Societal Aspects’ en Labs geven aan dat we in de praktijk experimenteren, kijken hoe we de ELSA aspecten kunnen begrijpen en begeleiden in de praktijk’, zegt Jongsma”. Het doel van ELSA Labs is ervoor te zorgen dat bedrijven, overheid, kennisinstellingen, maatschappelijke organisaties en burgers gezamenlijk verantwoorde toepassingen van AI ontwikkelen. Daarbij gaat het om oplossingen voor zowel maatschappelijke als zakelijke problemen, waarbij eerlijkheid, rechtvaardigheid, veiligheid en vooral vertrouwenswaardigheid centraal staan. De aanpak richt zich op de menselijke waarde evenals de publieke waarde van AI.

Medische toepassingen van AI samen met patiënten

Inmiddels zijn er al meer dan 20 ELSA Labs in Nederland, met allemaal een andere focus. Zo is er een ELSA Lab AI, Media & Democracy, een ELSA Lab Learning with AI en een ELSA Lab Urban Digital Twin. Jongsma: “In ons patiënt-gedreven ELSA Lab willen we medische toepassingen van AI om de gezondheid van mensen te bevorderen onderzoeker. We werken daarvoor samen met technische partijen, verzekeraars en medici. En waar ik ook heel blij mee ben is de Partiëntenfederatie Nederland als partner. Zij zijn heel erg betrokken en ze zijn voor ons ELSA Lab belangrijk, omdat de eindgebruikers essentieel zijn als je technologie, zoals AI, goed wil kunnen inzetten en gebruiken. Patiënten denken in het ELSA Lab dus als partner mee bij het schrijven en ook bij het testen van oplossingen”.

Duurzaam waarde toevoegen aan de zorgpraktijk

“Onze ambitie in dit lab is meervoudig. We willen in ieder geval AI ontwikkelaars en verzekeraars helpen begrijpen hoe je AI zo kunt vormgeven en begeleiden dat het goed gebruikt wordt, op zo’n manier dat het echt duurzaam waarde toevoegt aan de zorgpraktijk. Daarvoor kijken we naar vraagstukken, zoals: hoe ontstaat vertrouwen in AI nu? En wanneer dat vertrouwen er is: is dat terecht, en wat betekent dat voor de arts-patiëntrelatie? Eigenlijk is de hamvraag: hoe zorgen we ervoor dat AI iets waardevols voor onze medische praktijk?”

Value alignment

“Een mooi concept vind ik dan wat in wetenschappelijke termen ‘value alignment’ wordt genoemd. Ligt wat de technologie doet in lijn met onze waarden? Daarvoor heb je heel veel kennis vanuit verschillende disciplines nodig. Die interdisciplinaire samenwerking en het betrekken van de gebruiker is cruciaal voor het vraagstuk, waar we binnen dit ELSA Lab mee aan de slag gaan. In andere toepassingsgebieden zoals engineering wordt ‘value alignment’ al veel vaker toegepast, maar in de medische praktijk is dat innovatief”.

Partners kunnen nog meedoen!

“Er zijn al een paar AI Labs die ook financiering hebben vanuit NWO en daar al onderzoek mee kunnen doen. Wij zijn nog niet zover, maar hebben wel een goed idee en hebben de eerste relevante partners al bij elkaar. We zijn opstartend, maar heel erg gedreven om dit waar te maken! Op dit moment staan we nog open voor partners. Dus werk je bij een techbedrijf of een verzekeraar en ben je geïnteresseerd? Meld je dan vooral bij mij. En voor iedereen die denkt ‘dit ELSA Lab moet zeker aandacht besteden aan onderwerp X of Y’: laat ook dan van je horen!”

Over Karin Jongsma

Karin Jongsma is universitair hoofddocent Bioethiek aan het Julius Centrum van het Universitair Medisch Centrum Utrecht. Ze promoveerde met een medisch-ethisch proefschrift aan het Erasmus Universitair Medisch Centrum in 2016. Haar werk richt zich op de ethiek van nieuwe technologieën, voornamelijk rondom digital health, medische AI en de ethiek van patiëntbetrokkenheid. Ze is bereikbaar voor vragen over het ELSA Lab via kjongsma@umcutrecht.nl.

Dit artikel is al eerder hier verschenen