Kunstig intelligens kan gi oss riktig diagnose. Men vi vet for lite om hvordan den gjør det.

Bilde av lege som viser noe på en skjerm i samtale med pasient. Pasienten har ryggen til, vi ser høyre del av ansiktet, og vi ser baksiden av skjermen.

– Datamaskinen bruker statistiske metoder for å finne mønstre i store datamengder. Vi sier at maskinen lærer i stedet for å bli programmert, det kalles maskinlæring. Men vi vet ikke alltid hvordan den lærer, og det gjør det vanskelig å avdekke feil, sier Steven Hicks, som har tatt ph.d.-grad i ingeniørvitenskap på OsloMet om emnet.

Å bruke maskinlæring i medisinsk diagnostikk og behandling blir mer og mer vanlig.  

Maskinlæring blir for eksempel brukt i bildediagnostikk. Der kan kunstig intelligens se forandringer i radiologiske bilder, og foreslå diagnoser, for eksempel en kreftsykdom. Dette kan bidra til at diagnosene blir stilt raskere og mer nøyaktig enn om det bare gjøres manuelt av en radiolog.

Bør vite mer om hvordan datamaskinen lærer

Det trengs imidlertid bedre innsyn i hvordan maskinlæringsmetodene utvikles, for at vi skal være trygge på at de gir oss best mulig hjelp og fungerer så godt som mulig.

– Forskning på medisinsk kunstig intelligens har i dag vanligvis upresise metodebeskrivelser, private data, lukket kildekode og ufullstendige evalueringer, påpeker Hicks.

– Veldig få detaljer har blitt gjort kjent i medisinske journaler og konferanser, særlig i konferanser for det medisinske fagmiljøet.

Da kan det være vanskelig å forstå hvordan den kunstige intelligensen lærer og hvilke følger det får.

Om det blir kjent, blir det også lettere å korrigere og kritisere resultatene, og lettere for fagfolk i medisinske miljø å bidra til å forbedre metodene.

Flere påpeker problemet med mangel på transparens i medisinsk kunstig intelligens. Mange begynner nå å ta grep. – Steven Hicks

Dyp læring

Datamaskinen lærer seg noe den ikke kan fra før i maskinlæring.

For å lære må datamaskinen først fores med mange eksempler på det den skal forstå. Dette kalles dyp læring.

Dyp læring i bildeanalyse kan for eksempel ha stor innvirkning på hvordan datamaskiner kan brukes på sykehus.

Med dyp læring kan datamaskinene bli bedre i stand til å overvåke helsen vår, og bli til god hjelp i diagnostikk og behandling.

Vil ha åpnere forskning på kunstig intelligens

Steven Hicks’ doktorgradsavhandling i ingeniørvitenskap tar for seg hvordan kunstig intelligens kan brukes på ulike områder innen medisin.

Han ser nærmere på manglende åpenhet innen medisinsk kunstig intelligens-forskning. Målet er å bidra til åpnere og mer offentlig tilgjengelig forskning.  

Forsket på åpne løsninger

For å utforske dette, utviklet Hicks selv åpent tilgjengelige løsninger for kunstig intelligens, og gjennomførte eksperimenter og undersøkelser.

Han og kollegene hans samlet og publiserte medisinske datasett, og utviklet modeller for kunstig intelligens på ulike medisinske områder.

De utførte også eksperimenter for å validere datasettene de hadde samlet inn, organiserte konkurranser om medisinske kunstig intelligens-applikasjoner og undersøkte evalueringsmetoder.  

Arbeidet ble utført for å få en grundig forståelse av hvordan åpent tilgjengelig kunstig intelligens kan brukes innen hjertemedisin (kardiologi), assistert befruktning (reproduktiv teknologi), mage og tarm (gastroenterologi) og mental helse.

Bør være tilgjengelig for alle

I og med at mye av forskningen hittil hadde vært lukket, ville Hicks gjøre arbeidet mer tilgjengelig for alle, ikke bare for legene.

Altså at alt blir forklart fra datainnsamling til evaluering og testing, slik at du får en bedre forståelse av hvordan maskinlæring kan brukes, og hvordan den ikke kan og bør brukes.

Hvert steg i maskinlæring har stor effekt på sluttproduktet. Dataene som blir brukt til å trene datamaskinen påvirker selvfølgelig hva den kan bli brukt til, og hvor bra den kan fungere.

Alle fasene i prosessen burde være åpne til analyse for andre, for å kunne se om modellen er god nok til å bli brukt.

Jobber for mer åpenhet

– Vi brukte ikke vitenskapelige metoder for å finne ut hvor gjennomsiktig forskningen er, men jobbet heller for å få til mer transparens i forskningen: Vi publiserte data som alle kan bruke, hadde konkurranser for å få til mer sammenlignbarhet, og hadde åpent tilgjengelig dokumentasjon, forteller Hicks.

– Vi publiserte 10 datasett gjennom hele perioden min som ph.d.-kandidat, og fikk gode tilbakemeldinger.

– Jeg var nylig på en konferanse i USA hvor en forsker fortalte at hele hans ph.d. var basert på data vi hadde publisert, og alt arbeidet var gjort kun fordi vi hadde publisert store datasett innenfor koloskopi (tarmundersøkelser).

– Det åpner nye muligheter til å bidra for folk som ikke har tilgang til medisinske data, og for samarbeid med leger og sykehus.

Feller i maskinlæring

– Vi ser mange eksempler hvor folk bygger et system som fungerer skikkelig bra, og de kan ha mye data, men når de setter det ut i praksis fungerer det ikke i det hele tatt.

Dette skjer, også utenfor medisin: Et eksempel er fra forsvarsteknologi, der de trente en modell til å se forskjell på amerikanske og russiske tanks. Russisk tanks ble sett på soldager, amerikanske på dager med regn. Modellen lærte å se på lysforskjellen og ikke tanksene i seg selv.

– Dette er feller i maskinlæring som det er viktig å fange opp før du setter ting ut i praksis. Mange begynner nå å ta grep, og det har blitt flere som påpeker problemet med mangel på transparens i medisinsk kunstig intelligens.

Legene vet ofte lite om hvordan kunstig intelligens jobber

Legene vet ofte for lite om hvordan den kunstige intelligensen jobber, og hvordan den finner fram til ting. Det gjør det også vanskelig å stole på resultatene.

– Bare det å gjøre legene mer klar over hvordan den fungerer kan være nyttig. Mange er interessert i kunstig intelligens, men de vet ikke alltid hva det er, bortsett fra at det er en «black box» som de egentlig ikke forstår noe av.

Kunstig intelligens kan assistere legen

– Selv om det er problematiske sider, kan systemene som finnes i dag være til god hjelp med manuell korrigering, nesten som førerassistansesystemer i biler?

– Ja, systemene som brukes i dag er ikke ment for å erstatte noe, men som ekstra hjelp.

– Om legen fanger opp noe som kunstig intelligens ikke finner, og kunstig intelligens fanger opp noe legen ikke finner, så gjør de det bedre sammen enn hver for seg. De kan jobbe side om side. På den måten kan du spare tid og fange opp ting som ellers hadde blitt oversett.

– Det er viktig å ha forståelse av prinsippene. Forstå at dette er noe du kan jobbe med, ikke stole for mye på, men noe du kan samarbeide med.

– Hvilke felt har kommet lengst når det gjelder maskinlæring i medisin i dag?

– Det er i bildediagnostikk, se etter kreftceller, for eksempel. I radiologi er det mye brukt.

Ph.d.-prosjekt

Steven Alexander Hicks: "Transparency in Medical Artificial Intelligence Systems" (simula.no)

Mer om kunstig intelligens

Bildet viser to personer framfor en skjerm til høyre, og en person til venstre som ser ut til å være tankefull og litt oppgitt.
Dette er utfordringene med kunstig intelligens

Kunstig intelligens automatiserer kjedelige rutineoppgaver, men gir oss store utfordringer i sikkerhet, personvern og energiforbruk.

Illustrasjonsbilde av kunstig intelligens. Bildet viser en lærer som viser fram en robot til en gruppe elever. Dette skaper entusiasme, og stemningen er god.
Dette bør du vite om kunstig intelligens

Kunstig intelligens blir stadig viktigere i hverdagen til de aller fleste. Men vet du egentlig hva kunstig intelligens er, og hva det kan brukes til?

Publisert: 19.10.22
Sist oppdatert: 04.11.22
Tekst: Olav-Johan Øye | Maria Normann
Foto: NTB