Hoewel er zeker ook sprake is van een hype en er soms niet geheel realistische verwachtingen worden gewekt, valt niet te ontkennen dat AI reeds nu op een aantal terreinen grote invloed heeft op het dagelijks leven. Denk aan uiteenlopende zaken als navigatie, suggesties door Spotify en Netflix, spraakherkenning, gezichtsherkenning door een iPhone. Tegelijkertijd is de kennis over dit onderwerp niet wijdverbreid hetgeen nog wel eens leidt tot een vertekend beeld en angstscenario’s van wat met AI mogelijk is, tot aan killer robots die de wereld zullen overnemen aan toe.

Wat betekent AI voor de geneeskunde?

Ook binnen de geneeskunde bestaan uiteenlopende verwachtingen ten aanzien van de veranderingen die AI voor het vak zal betekenen. Artsen lijken vaak nog afwachtend te zijn en willen eerst overtuigd worden van de toegevoegde waarde van AI. Medisch studenten blijken meer overtuigd van het gegeven dat AI het vak zal veranderen. Verhalen dat sommige specialismen grotendeels of geheel zullen verdwijnen als gevolg van AI leiden tot twijfel over het te kiezen specialisme. Met name bij radiologie speelt dit al een rol.

De geneeskundestudenten uit genoemd onderzoek uiten daarom de wens dat in hun opleiding voldoende aandacht wordt besteed aan dit onderwerp. In de beschrijvingen van het curriculum van de geneeskundeopleidingen in Nederland wordt het onderwerp AI of big data nog niet genoemd. Wel is er beperkt aandacht voor in bijvoorbeeld keuzeonderwijs.

Feit is dat AI op het terrein van de radiologie zijn toegevoegde waarde daadwerkelijk heeft bewezen en AI applicaties soms even goed of zelfs beter presteren dan een ervaren radioloog. Ook binnen de radiologie woedt de discussie over in welke richting het vak zich zal ontwikkelen. De meningen variëren van dat er niet veel zal veranderen tot dat AI de radioloog geheel overbodig zal maken. De meest gangbare opvatting is evenwel dat AI de radioloog zal ondersteunen en het vak qua inhoud wel fors zal veranderen. Of zoals Curtis P. Langlotz het verwoordde: ‘AI will not replace radiologists, but radiologists who use AI will replace radiologists who don’t’.

Andere specialismen en met name die specialismen die net als radiologie werken met gestructureerde data en digitale beelden zoals pathologie, dermatologie, oogheelkunde en cardiologie lijken dezelfde ontwikkeling door te maken. In genoemde specialismen zijn algoritmen ontwikkeld die een analyse kunnen doen en soms ook diagnoses kunnen stellen van weefselpreparaten, afbeeldingen van huidafwijkingen, beelden van een funduscopie of een ECG. Vaak net zo goed en soms zelfs beter dan de specialist. Maar ook specialismen waarbij vooral gewerkt wordt met minder gestructureerde data zoals gesproken of geschreven tekst, komen aan de beurt. Binnen de AI wereld wordt namelijk veel energie gestoken in het begrijpen en het produceren van tekst. Het is een van de speerpunten van grote spelers als Google en Amazon. Amazon stelt bijvoorbeeld al een tool beschikbaar dat medische teksten, zoals spreekuuraantekeningen of zelfs een spreekuuropname, ontleedt en er de essentiële gegevens zoals symptomen, diagnose en behandeling uit weet te filteren.

En ook in het werkveld van de bedrijfs-en verzekeringsgeneeskunde dringt AI door. Een interessante introductie in de ontwikkelingen wordt gegeven door Douglass P. Gross die een aantal studies beschrijft betreffende AI en bedrijfsgeneeskunde, waaronder één die op basis van data voorspelt of er een risico is op langdurig psychisch verzuim. De belofte op langere termijn is dat continue geupdate prognoses ter beschikking zullen komen, en dat ook het te verwachten effect van ingrijpen (interventies) vooraf ingeschat kan worden.

Belemmeringen om AI-modellen te ontwikkelen De technieken van AI lijken dus wel klaar om medici te ondersteunen en er is al een fors aantal succesverhalen. Wat er vaak nog ontbreekt zijn de data waarmee de AI-modellen ontwikkeld kunnen worden. AI systemen zijn immers voor hun betrouwbaarheid sterk afhankelijk van de beschikbaarheid van data, liefst in grote hoeveelheden. Het paradoxale is dat AI ontwikkelaars behoefte hebben aan goede medische data om bruikbare toepassingen te kunnen ontwikkelen en daarbij onder meer geremd worden door de afwachtende houding van artsen.

Dit is echter slechts een van de problemen die de ontwikkelingen van AI in het medische vakgebied afremmen. Opvallend is dat wanneer een discussie plaatsvindt over de introductie van AI in de medische praktijk al snel de bezwaren en randvoorwaarden ter sprake komen.

Een deel van die belemmeringen heeft te maken met specifieke kenmerken van de geneeskunde die toepassing van AI binnen het vakgebied bemoeilijken. Zo zijn binnen de geneeskunde de data in overwegende mate ongestructureerd (tekst), terwijl AI juist gestructureerde data nodig heeft. Er moeten daarom manieren gevonden worden om deze ongestructureerde data te structureren. Voor een deel kan dit geautomatiseerd worden, maar een deel blijft vooralsnog handmatig werk voor hooggeschoolde medewerkers.

AI heeft niet alleen data nodig maar ook het bijbehorende ‘label’: bijvoorbeeld of op een mammografie wel of niet een maligniteit te zien is. Ook dit labelen vereist vaak handmatige inzet van hooggeschoolde en dus spaarzame en dure krachten.

In het medische vakgebied is de bescherming van de privacy van patiënten veel meer van belang dan bijvoorbeeld binnen andere toepassingsgebieden van AI zoals marketing en social media. Gegevens mogen alleen gebruikt worden met uitdrukkelijke toestemming van en mogen niet herleidbaar zijn tot die patiënt. Dit maakt het verzamelen en voorbewerken van data uiteraard tot een moeizamer en arbeidsintensiever proces.

Daarnaast zijn er ook bezwaren die niet zo zeer inherent zijn aan het gebruik van AI binnen het medische vakgebied, maar meer aan het feit dat AI nog onbekend terrein is voor veel medici. In de opleiding werd en wordt er immers niet of nauwelijks aandacht besteed aan AI. In de bekende medische tijdschriften is er weinig aandacht voor AI. Artikelen over AI en geneeskunde verschijnen soms in Nature of Science, maar verder vooral in met name AI-georiënteerde tijdschriften en op sites als arXiv.

Een ander veelgenoemd bezwaar is het gevaar van selectie en informatie bias. Binnen de geneeskunde een bekend fenomeen, maar in de wereld van AI niet minder. Een bekend voorbeeld is een app die foto’s van huidaandoeningen kan herkennen en van een diagnose kan voorzien. De app bleek niet goed te werken voor mensen met een donkere huid. Dit werd echter niet veroorzaakt door een tekortkoming van de techniek, maar door onjuist gebruik ervan: het model was voornamelijk ‘gevoed’ met afbeeldingen van mensen met een lichte huid.

Hoe komt een AI toepassing tot conclusies?

Verder is een veelgehoorde vraag van artsen dat ze graag willen weten hoe een AI toepassing tot zijn conclusies komt. Een vraag waaraan vaak gerefereerd wordt als de behoefte aan ‘explainability’. Soms met de achterliggende angst dat de toepassing een black box is waarvan niemand weet hoe die werkt en waarvan het volkomen onvoorspelbaar is wat eruit komt of zelfs dat dezelfde input tot verschillende uitkomsten zou kunnen leiden. Feit is echter dat exact bekend is hoe het werkt en dat er ook niets magisch aan is, aangezien het geheel op wiskundige principes gebaseerd is.

Het probleem is echter dat het om complexe modellen gaat met een vaak zeer groot aantal parameters (soms wel miljoenen) gebaseerd op een grote hoeveelheid data (tot aan terabytes toe), wat maakt dat de benodigde berekeningen in de praktijk alleen nog door een computer uitgevoerd kunnen worden. En dan ook nog niet eens op een willekeurige computer, maar alleen nog op grote servers binnen datacentra zoals die van Google en Amazon. Waarmee ook weer een mogelijk beveiligingsprobleem ontstaat, want wie vertrouwt zijn medische gegevens toe aan de servers van dergelijke partijen?

Men zou voor de behoefte aan explainability echter de vergelijking kunnen treffen met een zwangerschapstest. De meeste medici hebben slechts een flauwe notie van hoe die test werkt, maar zijn zonder meer bereid om de uitslag te accepteren.

Durven we op AI toepassingen te vertrouwen?

Daarnaast ontbreekt door de onbekendheid met AI ook nog wel eens het vertrouwen in deze techniek. Hoe moet men de conclusie van een AI toepassing interpreteren en hoe (zeker) weet men of men hierop kan vertrouwen? Hiermee samenhangend is de terugkerende vraag wie verantwoordelijk is voor de adviezen van de toepassing? Deze onzekerheid is gebaseerd op de aanname dat de AI toepassing autonoom en zonder menselijke tussenkomst medische adviezen zou geven, wat niet aan de orde is. De AI toepassing is een hulpmiddel voor de arts die het kan gebruiken bij zijn oordeelsvorming en die daarmee vanzelfsprekend verantwoordelijk is voor het advies dat hij geeft.

Alle genoemde bezwaren zijn begrijpelijk en terecht en verdienen zeker aandacht. Voor een aantal ervan bestaat geen eenvoudige oplossing. Deze zullen derhalve geaccepteerd moeten worden als een realiteit waarmee rekening gehouden c.q. waarvoor oplossingen gevonden moeten worden om AI zorgvuldig te kunnen toepassen.

Voor een aantal van de genoemde bezwaren geldt evenwel dat ze (deels) weggenomen kunnen worden als het kennisniveau ten aanzien van AI toeneemt. De conclusie is daarom gerechtvaardigd dat als de medische wereld wil profiteren van de grote mogelijkheden die AI biedt, het van belang is om dit kennisniveau naar een hoger plan te tillen.

Referenties

1. Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again, Eric Topol, 2019
2. Samyuktha PS Geetha RV, Jayalakshmi S. Awareness and knowledge about artificial intelligence in healthcare among doctors – a survey. Eur J Mol Clin Med 2020; 07(01):697-708.
3. Mehta N, Harish V, Bilimoria K et al. Knowledge and attitudes on artificial intelligence in healthcare: a provincial survey study of medical students [version 1]. MedEdPublish 2021; 10:75.
4. Gong B, Nugent JP, Guest W et al. influence of artificial intelligence on canadian medical students’ preference for radiology specialty: a national survey study. Acad Radiol 2019; 26(4):566-577.
5. McKinney SM, Sieniek M, Godbole V et al. International evaluation of an AI system for breast cancer screening. Nature 2020; 577:89–94.
6. Curtis P. Langlotz. Will artificial intelligence replace radiologists? Radiology: Artificial Intelligence 2019; 1(3).
7. AWS Amazon Comprehend Medical. (https://aws.amazon.com/comprehend/medical/).
8. Gross DP, Steenstra IA, Harrell FE et al. Machine Learning for Work Disability Prevention: Introduction to the Special Series. J Occup Rehabil 2020; 30: 303–307
9. Van Hoffen MFA, Norder G, Twisk JWR et al. Development of Prediction Models for Sickness Absence Due to Mental Disorders in the General Working Population. J Occup Rehabil 2020; 30: 308–317
10. Rathenau instituut: Slimme dokters, slimme computers: een gesprek over AI in de zorg
(https://www.rathenau.nl/nl/terugblik/slimme-dokters-slimme-computers-een-gesprek-over-ai-de-zorg)
11. Vice Tech: Google’s New Dermatology App Wasn’t Designed for People With Darker Skin
(https://www.vice.com/en/article/m7evmy/googles-new-dermatology-app-wasnt-designed-for-people-with-darker-skin)
12. Verdicchio M, Perin A. When Doctors and AI Interact: on Human Responsibility for Artificial Risks. Philos Technol 2022; 35(1): 11

Frans Riesthuis is bedrijfsarts bij Arboned
Bram Wisse PhD is datascientist bij de afdeling research & development van HumanTotalCare
Contact: frans.riesthuis@arboned.nl