De ontwikkelingen rond artificial intelligence (AI) zijn nauwelijks bij te benen. Dat zal de reden zijn waarom zowel de NSPOH als de SGBO dit voorjaar een symposium organiseerden over de toepassing van AI in ons vak. Ik was te gast bij de SGBO.

We werden bijgepraat over hoe large language models werken en hoe AI-applicaties kunnen worden benut bij het verwerken van beschikbare medische informatie tot een rapportage of schriftelijk advies. Ook de risico’s en ethische aspecten kwamen aan bod. Zo is belangrijk dat er een ‘human in the loop’ blijft. Daarmee wordt bedoeld dat de dokter en niet de computer verantwoordelijk is voor het eindresultaat.

Een geruststellende gedachte, maar een punt van aandacht is hoe artsen hun rol in de loop waarmaken.

‘Pas als je 1000 schapen hebt geschoren, heb je het echt in je vingers’

Toen ik met dit stukje bezig was werden onze schapen geschoren. De man die dat deed was er buitengewoon handig in. Hij vertelde dat het vooral een kwestie van ervaring is.
Dat is voor het leren schrijven van een medische rapportage niet anders. De vraag is hoe het met dat leren gaat als AI-applicaties een steeds groter aandeel leveren in het proces van rapporteren. Laten we eens verkennen wat er mis kan gaan.

Ontwikkelen van vaardigheid

Het gaat bij rapporteren niet alleen om schrijfvaardigheid. Je moet ook inschatten of je alle relevante medische informatie hebt verzameld, daar de hoofd- en bijzaken in onderscheiden, de gegevens in logische volgorde presenteren en voorzien van een plausibele argumentatie en conclusie. Het duurt wel even voor een aios daar handigheid in ontwikkelt, maar al doende leert men.

Hoe vaardig wordt een arts hier nog in wanneer een AI-applicatie taken als ordenen en formuleren overneemt? Zou het alleen om het schrijven gaan, dan was dat nog niet zo’n probleem. Maar artsen moeten ook de vaardigheid ontwikkelen om de concepttekst nog eens te wegen voordat ze hun handtekening zetten. En het evalueren of een medisch advies of rapportage aan alle eisen voldoet is echt complexer dan het beoordelen of een schaap goed is geschoren.

Kritisch beoordelen

In een eerdere blog stelde ik vast dat dit kritisch lezen lastiger wordt naarmate AI beter als schrijfhulp voldoet. Want juist een goed opgebouwde, soepel geschreven rapportage lijkt aan alle kwaliteitseisen te voldoen. Al na een paar helder geformuleerde zinnen heb je het gevoel dat het wel snor zit. Bij controletaken verslapt de aandacht snel, zo weten we uit de ergonomie.

Er speelt nog iets anders, bleek tijdens het SGBO-symposium. We zijn namelijk geneigd menselijke eigenschappen toe te kennen aan niet-menselijke systemen zoals computers. Zo gauw we ons digitale schrijfmaatje vanwege het gebruiksgemak kwaliteiten als ‘intelligent’ en ‘zorgvuldig’ toedichten bemoeilijkt ook dat de kritische beoordeling.

Paradox

Als je nog op de ouderwetse manier hebt leren rapporteren, weet je welke tekstgedeelten vaak lastig zijn om te schrijven. Dat maakt het mogelijk om juist dat soort passages even te controleren en zo nodig te verbeteren.

Ik betwijfel of een arts die vaardigheid nog ontwikkelt wanneer AI steeds meer schrijftaken overneemt. Zo ontstaat een interessante paradox. De aios van morgen levert ogenschijnlijk betere rapportages af dankzij AI-applicaties, maar is daardoor ook minder goed in staat om de kwaliteit ervan te borgen als ‘doctor in the loop’. Het wordt een uitdaging om hier een oplossing voor te vinden.

Joost van der Gulden is bedrijfsarts en plaatsvervangend hoofdredacteur van TBV.
Contact: joost.vandergulden@radboudumc.nl