Ggz is positief over AI, maar wel met argusogen

Wat is de impact van artificial intelligence (AI) op de ggz? Dat was donderdag 30 november de centrale vraag tijdens het symposium in de Bibliotheek Neude in Utrecht, toevallig precies één jaar na de introductie van ChatGPT. Onder leiding van dagvoorzitter Philip van de Poel, senior redacteur bij Dutch Health Hub, gingen zeventien sprekers in op de stand van zaken. En kwamen allerlei praktische, technische, juridische én ethische aspecten aan bod. Wat bleek? De ggz-sector is niet hoopvol, maar ook niet somber over de ontwikkelingen. Vooral AI-toepassingen die bijdragen aan het verminderen van administratieve lasten werden enthousiast onthaald.

AI is een tool, maar wat voor een? “Is het alleen een hamer of is het de hele conciërge?”, vroeg Floriane Jaspers, arts kinder- en jeugdpsychiatrie bij Levvel, zich af. Met andere woorden: is het een hulpstuk voor sommige stappen in het behandelproces of gaat kunstmatige intelligentie centraal staan in de behandelrelatie?

Zwart gat

Dat is een vraag waar de Nederlandse wet- en regelgeving ook nog geen antwoord op weet, legde advocaat gezondheidszorg Roland Bertens uit. Volgens de EU valt gecertificeerde AI onder de wet medische hulpmiddelen (MDR), maar er zitten nogal wat haken en ogen aan als het gaat om bijvoorbeeld aansprakelijkheid en het medisch beroepsgeheim. Dat komt onder meer doordat er een ‘zwart gat’ ligt tussen input en output. Meerdere sprekers legden uit dat niet precies is te achterhalen hoe algoritmes werken, dus ook niet waarom toepassingen bepaalde keuzes maken. Soms is dat bewust. Zo houden de makers van GPT-4, de opvolger van ChatGPT, geheim met welke datasets de algoritmen worden getraind. Maar vaker is er geen beginnen aan om grip te krijgen op de zee aan data waar de ‘hongerige’ algoritmen op aanvallen. Meerdere sprekers roepen dan ook gebruikers en zorgverleners op tot een voortdurende ‘sanity check’. Maar hoe bouw je die in binnen de dagelijkse processen?

Datahub

Een van de adviezen is: begin simpel. Dat lieten de co-founders en engineers van Deeploy zien, die samen met  NiceDay en Councyl AI ontwikkelen op basis van continue feedback van therapeuten. Het betrekken van zorgverleners bij het ontwikkelen is een absolute must, liet ook Danny van de Sande zien. Hij promoveert op het gebruik van kunstmatige intelligentie op de intensive care van het Erasmus MC. Het ziekenhuis heeft een zogenaamde ‘datahub’ om samenwerking tussen alle disciplines te stimuleren. Dat kan dienen als voorbeeld voor veel grote ggz-instellingen, zo klonk het uit de zaal.

Administratievrije ggz

Veel indruk maakten de showcases van praktische AI-toepassingen voor de ggz. Zo presenteerden Philippe Habets en David van IJzendoorn hoe EvidenceHunt helpt bij snel opzoeken van klinische informatie. De chatbot doorzoekt wetenschappelijke artikelen, richtlijnen en handboeken naar relevante informatie. Dat kan dagen spitten schelen. De makers werken nu aan een toepassing waardoor je kunt chatten – een beetje vergelijkbaar met ChatGPT maar dan zonder de onzin die deze toepassing soms produceert. De meeste bezoekers waren vooral onder de indruk van de AI-toepassing van ValueCare voor een ‘administratievrije ggz’. Het bedrijf ontwikkelde software voor GGZ West Noord Brabant om het intakeproces te stroomlijnen. Gesprekken met cliënten worden eerst een-op-een omgezet in tekstbestanden en vervolgens automatisch verwerkt en aan het EPD toegevoegd. Ook hebben ze algoritmen ontwikkeld die het optreden van no shows kunnen voorspellen. Als laatste zet ValueCare AI in om de handmatige verificaties voor zorgverzekeraars automatisch te controleren en valideren.

Lees ook andere artikelen over AI en ggz (https://www.ggztotaal.nl/tp-29166-2/artificiele intelligentie)

----------------------------------------------------------------------------------------

Vind je dit interessant? Misschien is een abonnement op de gratis nieuwsbrief dan iets voor jou!

GGZ Totaal verschijnt tweemaal per maand en behandelt onderwerpen over alles wat met de ggz te maken heeft, onafhankelijk en niet vooringenomen.

Abonneren kan direct via het inschrijfformulier (http://www.ggztotaal.nl/pg-29166-7-89775/pagina/abonneren.html), opgeven van je mailadres is voldoende. Of kijk eerst naar de artikelen in de vorige magazines (http://www.ggztotaal.nl/pg-29166-7-89779/pagina/e-magazine.html).