Studenter stoler mindre på innhold de tror er KI-laget

Når studenter tror at tekst og bilder er skapt av kunstig intelligens (KI), faller tilliten, selv når innholdet ellers framstår som korrekt og realistisk.

To studenter sitter sammen foran PCene sine.

Kort oppsummert

  • 31 studenter vurderte tekster og bilder med ulik grad av KI-involvering.
  • Tilliten faller når innhold antas å være KI-laget, selv når det virker korrekt/realistisk; tekster hvor KI hadde hjulpet noe til med å skrive var særlig vanskelige å skille fra menneskeskrevne.
  • Å oppgi tydelige kilder som kan dobbeltsjekkes og merking/åpenhet om KI-bruk øker tilliten; skepsis til feil/hallusinasjoner trekker ned.
  • Grep som kan bedre tilliten: oppgi kilder som leseren kan dobbeltsjekke, merk og forklar kort hvordan og hvorfor KI er brukt, og utform merking som informerer uten å trigge unødig mistillit.

Kort oppsummert er delvis laget ved hjelp av Sikt KI. Teksten er kvalitetssikret av OsloMet.

Det viser en studie gjort av masterstudent i anvendt kunstig intelligens ved OsloMet, Sofie Helene Karlsen, som kombinerer spørreundersøkelse og dybdeintervjuer av studenter.

Studien tok for seg hvordan antatt forfatterskap, om det er gjort av et menneske, av KI eller i kombinasjon, påvirker tilliten til tekst og bilde. Karlsen undersøkte

  • hvor godt studenter skiller mellom menneskeskapt, KI-generert og KI-assistert innhold
  • hvordan opplevd opphav påvirker tillit
  • hva studentene så etter når de gjorde vurderingene sine

31 studenter i alderen 18–27 år deltok i studien, som bestod av spørreundersøkelse og ni oppfølgende dybdeintervjuer.

Deltakerne vurderte tekster og bilder med varierende grad av KI-involvering.

Mye lavere tillit til antatt KI-generert innhold

– De som deltok i undersøkelsen hadde generelt mye lavere tillit til innhold de trodde var KI-generert. De hadde mye høyere tillit til innhold de trodde var skrevet av mennesker, forteller Sofie Helene Karlsen.

Det viste seg å være vanskelig å avsløre om KI hadde hjulpet noe til med å skrive en tekst:

– De slet veldig med å se forskjell på tekster som utelukkende var skrevet av mennesker, og tekster der KI hadde blitt brukt som et hjelpemiddel, men ikke hadde skrevet den alene.

– Jeg fortalte dem aldri hva som var KI eller ikke. Konklusjonene deres var basert på hvordan tekstene var skrevet.

Hva er det så som bygger tillit?

– De fleste framhevet om teksten hadde oppgitt kilder, slik at de kunne dobbeltsjekke informasjon.

– Mange ønsket seg merking av teksten, slik at man kan gjøre mer informerte valg, sier Karlsen.
De fleste deltakerne kjente godt til KI-verktøy og brukte dem, men likevel var skepsis knyttet til feil og “hallusinasjoner” utbredt.

Sannferdig innhold kan bli avvist

Når opplevd opphav av teksten, ikke nødvendigvis faktisk opphav, styrer tillit, kan sannferdig innhold bli avvist hvis det antas å være KI-laget. Funnene peker mot tre praktiske grep som kan bedre tilliten:

  • Forklar kort om, hvordan og hvorfor KI er brukt.
  • Vis til kvalitetssikrede kilder som leseren kan dobbeltsjekke.
  • Utform merking som informerer uten å trigge unødig mistillit.

Karlsen skal presentere funnene på den internasjonale konferansen «Human-Computer Interaction International» i Montreal sommeren 2026.

Referanse

Sofie Helene Karlsen, Weiqin Chen: Trusting AI or Humans. Perceived Authorship and Trust in AI-Generated and Human-Created Content.

Relatert forskning

Flere forskningsnyheter

Forskningsartikkel av: Fakultet for teknologi, kunst og design (TKD)

Olav-Johan Øye