Ansvarlig bruk av KI
Kunstig intelligens (KI) kan revolusjonere pasientbehandling, gjøre arbeidsprosesser mer effektive og redusere feil på legekontoret. Men hvordan sikrer vi at teknologien brukes på en ansvarlig og trygg måte?
TrinnVis har utviklet nye retningslinjer, rutiner og risikovurderinger for trygg KI-bruk. Samtidig gir rapporten fra AIFAL-prosjektet verdifulle innsikter fra leger som har testet KI-løsninger i praksis, og AIFAL har utviklet et interaktivt læringsverktøy for trygg bruk av teknologien.
Foreløpig er lite av KI-bruken tydelig regulert i regelverket. Vi befinner oss i en overgangsperiode der eksisterende lovverk delvis dekker KI, men mer konkrete føringer vil trolig komme i 2026, ifølge Torgeir Hoff Skavøy.
Hoff Skavøy er fastlege, spesialist i allmennmedisin og nestleder i Norsk forening for allmennmedisin. Han sitter også i Legeforeningens IT-utvalg og var medarrangør for KI-seminaret i november 2024, hvor Norsk forening for allmennmedisin og Helsedirektoratet diskuterte regelverk og bruk av KI i allmennpraksis.
Nytt innhold i TrinnVis
For å sikre trygg og ansvarlig bruk har TrinnVis laget nye retningslinjer, rutiner og risikovurderinger for bruk av KI.
Retningslinje:
Rutiner:
- Lage journalnotat med KI-verktøy
- Lære opp personalet i bruk av KI-verktøy
- Informere pasienter om bruk av KI-verktøy i konsultasjon
Risikovurderinger:
- Feil informasjon blir lagret i journalen ved bruk av KI-verktøy
- Pasientdata kommer på avveie ved bruk av KI-verktøy
Virksomheten skal ha oversikt over alle sine informasjonsverdier, datasystemer og hvem som har tilgang til informasjonen. TrinnVis forenkler registreringen av KI-verktøy med forhåndsutfylt informasjon og gir automatiske risikovurderinger for trygg og ansvarlig bruk.
Erfaringer fra AIFAL-prosjektet
Deltakerne så store muligheter med KI for raskere diagnoser, bedre samhandling og mer rettferdig helsehjelp. Samtidig var det bekymring for hallusinering, feilbehandling og risiko for at klinisk skjønn svekkes, sier Jorunn Thaulow.
Trygg og målrettet bruk av KI
Jorunn Thaulow er lege og forsker ved Avdeling for allmennmedisin, Universitetet i Oslo, samt kommuneoverlege i Oslo. I tillegg er Thaulow medgründer og administrerende direktør i Medbric, som utvikler AI løsninger. – Legene så store muligheter med KI for raskere og mer presise diagnoser, bedre samhandling og en mer rettferdig helsetjeneste. Samtidig ble det uttrykt bekymring for hallusinering, feilbehandling og svekket klinisk skjønn. Dette understreker behovet for en ansvarlig og gjennomtenkt implementering av KI i helsetjenesten, sier hun.
AIFAL-prosjektet (AI for Allmennleger) har, gjennom et tverrfaglig samarbeid mellom SINTEF Helse, Norwegian Research Center for AI Innovation (NorwAI) ved NTNU og Antibiotikasenteret for Primærmedisin ved UiO, involvert fastleger i et kvalitetsforbedringsprosjekt for å få frem deres perspektiv på muligheter og begrensninger ved bruk av KI på fastlegekontoret.
Hvordan sikrer vi at teknologien er både trygg og nyttig?
I en heldags workshop fikk deltakerne blant annet teste KI-baserte tale-til-tekst-løsninger, prøve seg på prompt engineering og diskutere hvordan beslutningsstøtteverktøy, multimodale KI-modeller og annen teknologi kan avlaste legenes administrative byrde. Legene uttrykte både nysgjerrighet og skepsis – de ser potensialet for mer effektive arbeidsprosesser, men fremhever at KI-løsninger må være pålitelige, ivareta klinisk skjønn og sikre pasientsikkerhet.
Prosjektet har gitt verdifull innsikt i hvordan KI kan støtte fastleger uten å erstatte deres faglige vurderinger. Resultatene viser tydelig behovet for kompetanseheving blant helsepersonell, og som en direkte oppfølging har AIFAL utviklet et interaktivt læringsverktøy om KI for helsepersonell. Dette verktøyet, som skal bidra til en tryggere og mer informert bruk av KI i klinisk praksis, er gratis tilgjengelig for alle som vil prøve, og vil driftes med midler fra prosjektet ut 2025.
Les mer om AIFAL-prosjektet og last ned rapporten
Har du ikke TrinnVis-konto? Prøv gratis i 30 dager
TrinnVis brukes av flere tusen norske leger, tannleger, fysioterapeuter og andre helsearbeidere. Vi samarbeider med en rekke profesjonsorganisasjoner for å sørge for at systemet tilfredsstiller de høye kvalitetskravene som stilles til helsevirksomheter.