Workshop om samspil mellem mennesker og AI i sundhedsvæsenets hverdag

Som en del af RAIN’s temadag om samspillet mellem mennesker og AI i sundhedsvæsenets hverdag afholdt vi workshop med over 100 fremmødte. Deltagergruppen spændte bredt på tværs af kliniske fagligheder, udvikling og digitalisering, konsulentroller, IT og arkitektur samt sekretariats- og vidensfunktioner.

Workshoppen tog afsæt i teknopsykolog Astrid Galsgaards oplæg om menneske-AI-samarbejde og de psykologiske mekanismer, der påvirker implementeringen af AI i sundhedsvæsenet. Med særligt fokus på bl.a. agens, faglig identitet, ansvar, tillid og balancen mellem egen dømmekraft og automatiserede systemer blev deltagerne inviteret til at koble perspektiverne fra oplægget til deres egne erfaringer og den virkelighed, AI skal implementeres i.

Del 1: Erfaringer med, nysgerrighed på og forventninger til AI-løsninger

AI-løsninger som nogle sygehusafdelinger allerede har erfaringer med

Deltagerne angiver, at der allerede er erfaring med en bred vifte af AI-løsninger. Inden for AI-assisteret patientdialog og transskription, herunder ambient scribe, anvendes blandt andet AI Whisper, LLM, Dragon, Microsoft Teams og Roboref. Disse løsninger kan understøtte dokumentation og kommunikation og derved bidrage til en mere effektiv håndtering af patientkontakten.

Der er også erfaring med forskellige sprogmodeller såsom ChatGPT, SydChat, RMChat, OpenEvidence og Elicit, som fx kan anvendes til informationssøgning, vidensstøtte og tekstproduktion.

På det kliniske område bruges AI-baserede algoritmer og billedanalyseværktøjer, herunder frakturalgoritmen RBFracture, AI Mammo, ContextFlow, Harrison AI samt AI-understøttet billedbehandling på scannere. Derudover anvendes AI til blandt andet prostataindtegning.

Endelig har afdelingerne erfaring med en række teknologiske løsninger, herunder robotscanning, sensorteknologi til registrering af fald, monitorering på sengestuer, AID-pumper og digital histologi.

Hvilke AI-løsninger er der nysgerrighed på?

Deltagerne angav interesse for at udforske nye AI-løsninger, særligt inden for chatbots og intelligente assistenter. Det gælder blandt andet løsninger på Sundhed.dk, Google- og Oura-baseret AI-coaching, opsummering af patientjournaler, AI-chatagenter som samtalepartner samt Claude integreret i Office-pakken.

Der er samtidig en forventning om, at AI i stigende grad kan fungere som beslutningsstøtte. Her nævnes blandt andet palliativ AI, AI-Raptor, løsning fra Treat Systems, AI til læsning af blodprøvesvar, H-CAT og AI til gradering af prostatanåle.

Afdelingerne ser også potentiale i prædiktionsmodeller, f.eks. til at forudsige laboratoriesvar og optimering af CTS-systemer til styring af el, vand og varme.

Et gennemgående ønske er desuden at anvende AI til at lette arbejdsbyrden. Det omfatter blandt andet AI til beskrivelser af DYA-scanninger, tale-til-tekst-løsninger, automatiske påmindelser om allerede ordineret medicin, understøttelse af administrative opgaver, feedback i den lægelige videreuddannelse, journalisering i Acadre, vagtplanlægning.

Der angives endelig også et ønske om støtte til etiske overvejelser i forbindelse med anvendelsen af AI.

AI-løsninger som forventes at skulle implementeres

Der er en forventning om, at automatiseret dokumentation og automatiseret transskription af møder bliver en naturlig del af den fremtidige arbejdspraksis. Derudover forventes implementering af Ambient Scribe-løsninger, DORA-løsningen og løsninger fra Treat Systems samt AI til gradering af nåleprøver. Endelig forventes en afprøvning og implementering af algoritmer inden for lunge-, neuro- og prostataområdet.

Del 2: Spændingspunkter i implementeringen af AI-løsninger

Faglig identitet og kompetencer

Implementeringen af AI giver anledning til en række overvejelser om faglig identitet og kompetencer. Workshopdeltagerne peger på behovet for grundlæggende AI-undervisning og e-læring, samtidig med at der er bekymring for, om øget brug af AI kan føre til tab af faglige kompetencer. Flere fremhæver betydningen af teknologiforståelse og balancen mellem erfaring og AI-understøttede beslutninger. Der er også behov for at afklare, hvem der skal fungere som AI-superbrugere, ligesom anvendelsen af AI blandt studerende rejser spørgsmål om, hvordan det påvirker læring og faglig udvikling.

Samtidig efterspørges større klarhed om de juridiske rammer for anvendelsen af AI, herunder hvad der er tilladt, og hvad der ikke er. Mange ser AI som en mulighed for at frigøre tid til kerneopgaver, men understreger samtidig, at implementeringen skal ske inden for tydelige organisatoriske rammer.

Den faglige identitet spiller også en rolle. Der opleves en risiko for, at medarbejdere med en stærk faglig identitet påvirkes mere af forandringsprocesser, og der udtrykkes bekymring for, om arbejdet kan blive mindre meningsfuldt og dermed påvirke motivationen. Der peges desuden på en mulig generationsforskel, hvor yngre medarbejdere måske kan have større tillid til AI, mens ældre medarbejdere måske kan opleve større usikkerhed.

I forhold til arbejdsgange fremhæves behovet for at placere de rette opgaver hos de rette faggrupper og sikre, at AI skaber mere tid til kerneopgaver. Samtidig er der opmærksomhed på risikoen for, at det skjulte arbejde overses, eller at fokus på tværfaglige perspektiver reduceres.

Tillid og ansvar

Ansvarsfordelingen er et centralt tema. Der stilles spørgsmål ved, hvem der bærer ansvaret, hvis AI træffer forkerte beslutninger eller begår fejl. Der er bred enighed om, at AI ikke mindsker det lægefaglige ansvar, og flere peger på, at ledelsen må tage ansvar, hvis implementeringen ikke fungerer efter hensigten. Samtidig nævnes risikoen for overdiagnosticering som en vigtig problemstilling.

Tillid til teknologien vurderes som afgørende for en succesfuld implementering. Medarbejderne skal kunne stole på teknologien og vide, hvornår resultaterne er pålidelige. Hvis AI-løsninger ikke fungerer fra starten, kan det hurtigt føre til mistillid og modstand. Omvendt vurderes tilliden at være større, når AI løser konkrete problemer og skaber værdi i hverdagen – også selv om algoritmerne ikke er fejlfrie.

Der peges desuden på, at AI introducerer nye typer af fejlkilder og kan skabe ekstra arbejde i forbindelse med kvalitetssikring og fejlretning. Flere oplever, at fejl begået af AI vurderes hårdere end fejl begået af mennesker, ligesom der er bekymring for, at den faglige vurdering gradvist kan svækkes.

Etiske spørgsmål fylder også meget. Der udtrykkes bekymring for, om AI kan bidrage til øget ulighed, og om løsningerne primært skaber værdi for patienter eller medarbejdere. Særligt inden for psykiatrien rejses spørgsmål om datasikkerhed og overvågning, herunder hvem der lytter med, ser med eller læser med. Behovet for, at anvendelsen af AI altid sker på et etisk forsvarligt grundlag understreges.

Del 3: Hvad afdelingerne selv skal gøre og hvor de har behov for støtte, for at opnå reelle gevinster fra AI-løsninger

Faglig identitet og kompetencer

For at AI kan skabe reelle gevinster, er der behov for en kultur, hvor medarbejderne løbende drøfter formålet med AI og åbent kan tale om både muligheder, usikkerheder og udfordringer. Det er samtidig vigtigt at være opmærksom på, at forandringer påvirker medarbejdere forskelligt.

Vidensdeling vurderes som en afgørende forudsætning. Der er behov for intern sparring, udpegning af superbrugere og løbende evaluering i teams. Medarbejderne efterspørger desuden flere praksisnære eksempler på anvendelse af AI, styrkede netværk samt klare retningslinjer fra centre og faglige selskaber om, hvad der er muligt og tilladt.

Ledelsen spiller en vigtig rolle i implementeringen. Der er behov for støtte til ledere i forhold til forandringsledelse og organisatorisk modenhed samt hjælp til at vurdere gevinster og afvejninger ved forskellige AI-løsninger. Samtidig efterspørges medarbejdere med kompetencer inden for implementering af AI i komplekse organisationer, ligesom AI bør integreres som en naturlig del af uddannelserne for sundhedsprofessionelle.

Tillid og ansvar

Klare rammer og retningslinjer er afgørende for at skabe tillid til AI. Medarbejderne efterspørger tydelig lovgivning og nationale rammer samt organisatoriske retningslinjer, der definerer ansvar og understreger, at AI skal fungere som et værktøj og ikke overtage den faglige beslutning.

Ledelsesopbakning og realistiske tidsplaner fremhæves som væsentlige forudsætninger, ligesom afdelingerne bør have fokus på at identificere de områder, hvor AI kan skabe størst værdi.

Der er desuden behov for gennemsigtighed, teknisk forståelse og oplæring, så medarbejderne får indsigt i, hvordan AI fungerer. Samtidig skal der være plads til at lære af fejl under implementeringen.

Erfaringsudveksling mellem afdelinger, der allerede har arbejdet med AI, vurderes som værdifuld. Samarbejde på tværs og større gennemsigtighed omkring leverandører og samarbejdspartnere efterspørges ligeledes.

For at skabe tillid er kvalitetssikring og validering afgørende. Medarbejderne peger på behovet for korrekt oplæring, løbende validering af AI-løsninger og fastholdelse af kritisk tænkning. Samtidig understreges vigtigheden af at sikre, at AI anvendes til at løse reelle behov frem for at skabe behov for nye løsninger.

Arbejdsgange og organisering

AI skal først og fremmest understøtte det eksisterende arbejde, forbedre kvaliteten og effektivisere arbejdsgange, hvor der er et reelt behov. Dokumentation nævnes som et område med stort potentiale for tidsbesparelse, og flere efterspørger ekstern hjælp til at identificere de områder, hvor AI kan skabe størst værdi i hverdagen.

Der er samtidig behov for en tydelig rolle- og ansvarsfordeling, så opgaver ikke utilsigtet flyttes mellem faggrupper. Ansvarsplacering i forbindelse med AI skal være klart defineret, og superbrugere samt en kliniknær støttefunktion bør understøtte medarbejdere med manglende kompetencer.

Retningslinjer for AI-understøttede arbejdsgange bør beskrives i instrukser og være så ensartede som muligt på tværs af regionerne. Samtidig efterspørges en central forankring af AI-løsninger kombineret med fleksibilitet i valget af konkrete teknologier.

Endelig fremhæves betydningen af vedvarende ledelsesopbakning. Implementeringen bør følges aktivt gennem hele forløbet og ikke kun i opstartsfasen, ligesom der skal afsættes den nødvendige tid til implementering og organisatorisk forankring.