AI Vervangt SEH-artsen Voorlopig Niet: Studie
Kunstmatige intelligentie kan artsen mogelijk helpen bij het invullen van routinematige papierwerk, maar het zal voorlopig niet nuttig zijn op de spoedeisende hulp, blijkt uit een nieuwe studie.
Het ChatGPT-programma van OpenAI leverde inconsistente conclusies op bij gesimuleerde gevallen van patiënten met pijn op de borst, melden onderzoekers.
De AI gaf verschillende niveaus van risicobeoordeling voor hartproblemen voor exact dezelfde patiëntgegevens – niet iets wat artsen willen zien bij het reageren op een medische noodsituatie.
“ChatGPT gedroeg zich niet consistent,” zei hoofdonderzoeker Dr. Thomas Heston, universitair hoofddocent aan de Elson S. Floyd College of Medicine van de Washington State University.
“Met exact dezelfde gegevens zou ChatGPT een score van laag risico geven, dan de volgende keer een tussentijds risico, en af en toe zou het zelfs een hoog risico aangeven,” zei Heston in een persbericht van de universiteit.
De AI presteerde ook niet zo goed als de traditionele methoden die artsen gebruiken om het risico op hartaandoeningen van een patiënt te beoordelen, volgens de bevindingen die onlangs zijn gepubliceerd in het tijdschrift PLOS One.
Voor de studie voerden onderzoekers ChatGPT duizenden gesimuleerde gevallen in van patiënten met hartpijn. Eerder onderzoek toonde aan dat het AI-programma medische examens kan halen, dus de hoop was dat het van nut zou zijn bij het reageren op medische noodsituaties.
Borstpijnen zijn een veel voorkomende klacht op de spoedeisende hulp, en artsen moeten snel de urgentie van de toestand van een patiënt beoordelen.
Zeer ernstige gevallen kunnen gemakkelijk te identificeren zijn aan de hand van symptomen, maar gevallen met een lager risico kunnen lastiger zijn, aldus Heston. Het kan moeilijk zijn om te beslissen of iemand in het ziekenhuis moet blijven voor observatie of naar huis moet worden gestuurd.
Artsen gebruiken vandaag de dag vaak twee maatstaven om het risico op hartaandoeningen te beoordelen, genaamd TIMI en HEART, legde Heston uit. Deze checklists dienen als rekenmachines die symptomen, medische voorgeschiedenis en leeftijd gebruiken om de ernst van een hartaandoening van een patiënt te bepalen.
Daarentegen kan een AI zoals ChatGPT miljarden variabelen snel evalueren, wat zou betekenen dat het in staat zou kunnen zijn om een complexe medische situatie sneller en grondiger te analyseren.
Onderzoekers maakten drie sets van 10.000 willekeurig gesimuleerde gevallen. De eerste set bevatte de zeven variabelen die worden gebruikt voor de TIMI-schaal, de tweede de vijf variabelen die worden gebruikt in de HEART, en de derde had een complexere set van 44 willekeurige gezondheidsmetingen.
Toen ze de eerste twee datasets invoerden, stemde ChatGPT ongeveer de helft van de tijd in met vaste TIMI- en HEART-scores, respectievelijk 45% en 48%.
Bij de laatste dataset voerden onderzoekers dezelfde gevallen vier keer uit en ontdekten dat ChatGPT vaak niet eens met zichzelf eens kon zijn. De AI gaf verschillende beoordelingen voor dezelfde gevallen 44% van de tijd.
Het probleem is waarschijnlijk te wijten aan de willekeurigheid ingebouwd in de huidige versie van de ChatGPT-software, die helpt om zijn antwoorden te variëren om natuurlijke taal te simuleren.
Dergelijke willekeurigheid is niet nuttig in de gezondheidszorg, waar behandelingsbeslissingen een enkelvoudig en consistent antwoord vereisen.
“We ontdekten dat er veel variatie was, en die variatie in benadering kan gevaarlijk zijn,” zei Heston. “Het kan een nuttig hulpmiddel zijn, maar ik denk dat de technologie veel sneller gaat dan ons begrip ervan, dus het is van cruciaal belang dat we veel onderzoek doen, vooral in deze kritieke klinische situaties.”
Ondanks deze studie zei Heston dat AI wel het potentieel heeft om echt nuttig te zijn op de spoedeisende hulp.
Bijvoorbeeld, de volledige medische geschiedenis van een persoon kan worden ingevoerd in het programma, en het kan snel de meest relevante feiten over een patiënt verstrekken in een noodsituatie, zei Heston.
Artsen kunnen het programma ook vragen om verschillende mogelijke diagnoses aan te bieden in moeilijke en complexe gevallen.
“ChatGPT zou uitstekend kunnen zijn in het maken van een differentiële diagnose en dat is waarschijnlijk een van zijn grootste krachten,” zei Heston. “Als je niet helemaal weet wat er aan de hand is met een patiënt, zou je het kunnen vragen om de top vijf diagnoses te geven en de redenering achter elk ervan. Dus het zou goed kunnen zijn om je te helpen bij het nadenken over het integreren van kunstmatige intelligentie in de spoedeisende hulp moeten zorgverleners ook rekening houden met de beperkingen en uitdagingen van deze technologie.
