Forskere advarer om AI i sundhedsvæsenet: - Vi skal være varsomme
Af Kunstig intelligens vinder mere og mere indpas i sundhedsvæsnet, men det kan også skabe faldgruber.
For blind brug af AI kan skabe usynlig forskelsbehandling, og nu kalder forskere ved Københavns Universitet på eftertænksomhed hos politikerne, så AI ikke medfører mere ulighed eller bliver et instrument for kyniske økonomiske kalkuler.
- Der er stort potentiale i kunstig intelligens, men vi skal være varsomme, da en blind indføring af det kan skævvride sundhedsvæsenet på nye måder, som er svære at se, fordi resultaterne ved første øjekast ser rigtige ud, udtaler Melanie Ganz fra Datalogisk Institut og Rigshospitalet i en pressemeddelelse.
Kommer snart til Danmark
I en ny forskningsartikel dokumenterer Melanie Ganz sammen med sine medforfattere, hvordan skjulte bias sniger sig ind i en algoritme designet til at beregne risiko for depression.
Sammen med kolleger fra DTU udviklede forskerne selv algoritmen efter samme design som de algoritmer, der allerede er i brug ude i virkelighedens sundhedsvæsner. På baggrund af virkelige depressionsdiagnoser forudsiger algoritmen, hvor stor risiko personer har for at udvikle depression.
- I udlandet bliver det mere og mere udbredt at se på, hvordan man tidligt kan opspore og forhindre depression. I USA bruger private forsikringsselskaber eksempelvis i stigende grad AI til at prioritere ressourcerne, og det når med al sandsynlighed også Danmark i en nær fremtid. Men spørgsmålet er, hvor retfærdigt et grundlag, prioriteringen egentlig sker på, udtaler medforfatter Sune Holm fra Institut for Fødevare- og Ressourcevidenskab.
Kan give store udsving
Forskernes egen algoritme var trænet i reelle historiske sundhedsdata om millioner af danskere, hvoraf cirka 200.000 havde en depressionsdiagnose.
- De rigtige algoritmer med den rette træning kan blive kæmpe aktiver for en kommune med begrænsede ressourcer, men vores forskning viser, at hvis maskinlæringen ikke håndteres ordentligt, så kan det skævvride adgangen til behandling, så nogle grupper overses eller sågar holdes ude, udtaler Melanie Ganz.
Studiet viser nemlig, at algoritmen har lettere ved at spotte risiko for depression hos visse borgergrupper end hos andre ud fra de variabler, de er trænet i - for eksempel uddannelse, køn, etnicitet og række andre variabler. Algoritmens evne til at identificere risiko for depression varierede således med op til 15 procent mellem forskellige grupper.
- Det betyder, at selv en region eller kommune, der i god tro indfører en algoritme til at hjælpe med at fordele for eksempel behandlingstilbud, kan komme til at skævvride den her sundhedsindsats, lyder det fra Melanie Ganz.
Grundlæggende maner forskerne derfor til ro i forhold til AI-begejstringen og håber, at man tænker en ekstra gang over indførelsen af den kunstige intelligens.
- Både politikere og borgere må være bevidste, ikke blot om fordelene, men også de faldgruber, der er forbundet med brugen af AI. Så man kan være kritisk i stedet for bare uden videre at ”sluge pillen", udtaler Sune Holm.