AI in de zorg: veelbelovend, maar kwetsbaar<\/p>\n
AI lijkt vaak intelligente. Demo\u2019s laten zien hoe snel systemen antwoorden geven, medische teksten schrijven of zelfs diagnoses voorstellen. Vier onderzoeken laten zien dat we voorzichtig moeten zijn.<\/p>\n
Kwetsbaar redeneren<\/p>\n
Wat onderzocht is: Een groot taalmodel werd getest met medische meerkeuze vragen, vergelijkbaar met het Amerikaanse examen voor artsen. Dit is een veelgebruikte maatstaf om te meten hoe goed AI het doet op medische kennis.<\/p>\n
Resultaat: Bij de originele vragen scoorde het model hoog, vaak boven de 80%. Maar zodra de vragen licht veranderden, zakte de score met 20\u201330%.<\/p>\n
Wat dit laat zien: Het model herkende de vorm van de vraag, maar begreep de inhoud niet echt. Het \u2018lijkt\u2019 dus te redeneren, maar doet vooral aan patroonherkenning. In de praktijk, waar een arts of pati\u00ebnt nooit exact dezelfde vraag stelt, is dat een groot risico.<\/p>\n
Niet alleen het antwoord telt<\/p>\n
Wat onderzocht is: De studie keek niet alleen naar het eindantwoord van een AI, maar ook naar de denkstappen die het gebruikt om tot dat antwoord te komen.<\/p>\n
Resultaat: In ongeveer 1 op de 4 gevallen klopte de uitkomst of de redenering niet. Soms gaf het model een goed antwoord, maar met een kromme of onjuiste redenering. Soms klopte de redenering, maar leidde die tot een fout antwoord.<\/p>\n
Wat dit laat zien: Zonder inzicht in de onderliggende redenatie kun je nooit zeker weten of het antwoord ook echt betrouwbaar is. In de zorg is dat cruciaal, want een verkeerde redenering kan leiden tot verkeerde keuzes.<\/p>\n
Hallucinaties blijven<\/p>\n
Wat onderzocht is: De studie maakte een overzicht van alle soorten fouten die AI kan maken, de zogeheten hallucinaties.<\/p>\n
Resultaat: Hallucinaties zijn geen incidentele vergissingen, maar een structureel probleem. Ze ontstaan omdat taalmodellen niet redeneren of feiten controleren, maar voorspellen welk woord waarschijnlijk volgt. Daardoor kunnen antwoorden heel overtuigend en gedetailleerd klinken, terwijl ze feitelijk niet kloppen.<\/p>\n
Wat dit laat zien: Zolang AI werkt op basis van taalvoorspelling, zullen hallucinaties altijd voorkomen. Je kunt ze wel beperken, maar nooit helemaal vermijden. Menselijk toezicht is daarom een harde randvoorwaarde.<\/p>\n
\u26a0\ufe0f Kritieke signalen gemist<\/p>\n
Wat onderzocht is: AI-modellen die voorspellen of ziekenhuispati\u00ebnten verslechteren of overlijden. Zulke modellen worden in de praktijk steeds vaker overwogen voor triage of vroegtijdige signalering.<\/p>\n
Resultaat: Gemiddeld werd slechts 34% van ernstige complicaties herkend. 66% werd gemist. Zelfs kleine veranderingen in de inputdata zorgden dat de prestaties instortten.<\/p>\n
Wat dit laat zien: Puur data-gedreven AI is niet genoeg. Het model ziet patronen in de data, maar begrijpt niet welke medische signalen \u00e9cht kritiek zijn. Zonder ingebouwde medische kennis en menselijke toetsing kan dit leiden tot gevaarlijke situaties.<\/p>\n
Deze onderzoeken laten samen zien dat AI indrukwekkend lijkt, maar ook kwetsbaar<\/p>\n
—<\/p>\n
Gedeelde link bij LinkedIn bericht: <\/p>\n
Originele LinkedIn bericht: https:\/\/www.linkedin.com\/feed\/update\/urn%3Ali%3AugcPost%3A7369396510800666624<\/p>\n
<\/p>\n","protected":false},"excerpt":{"rendered":"
AI in de zorg: veelbelovend, maar kwetsbaar AI lijkt vaak intelligente. Demo\u2019s laten zien hoe snel systemen antwoorden geven, medische teksten schrijven of zelfs diagnoses voorstellen. Vier onderzoeken laten zien dat we voorzichtig moeten zijn. Kwetsbaar redeneren Wat onderzocht is: Een groot taalmodel werd getest met medische meerkeuze vragen, vergelijkbaar met het Amerikaanse examen voor […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[35,47,49,48,99],"class_list":["post-41","post","type-post","status-publish","format-standard","hentry","category-linkedin","tag-ai","tag-hallucinaties","tag-onderzoek","tag-patientveiligheid","tag-redeneren"],"_links":{"self":[{"href":"https:\/\/kdt-advies.nl\/index.php?rest_route=\/wp\/v2\/posts\/41","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/kdt-advies.nl\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/kdt-advies.nl\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/kdt-advies.nl\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/kdt-advies.nl\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=41"}],"version-history":[{"count":1,"href":"https:\/\/kdt-advies.nl\/index.php?rest_route=\/wp\/v2\/posts\/41\/revisions"}],"predecessor-version":[{"id":155,"href":"https:\/\/kdt-advies.nl\/index.php?rest_route=\/wp\/v2\/posts\/41\/revisions\/155"}],"wp:attachment":[{"href":"https:\/\/kdt-advies.nl\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=41"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/kdt-advies.nl\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=41"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/kdt-advies.nl\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=41"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}