top of page

KI-sikkerhet kombinert med resultatfeedback får delegering til KI til å fungere

for 1 time siden
3 min lesing

Image via Wikimedia Commons (public domain).

Når ansatte kan velge, oppgave for oppgave, om de vil overlate arbeidet til KI, hvilken informasjon hjelper dem å velge godt? Taudien, Fügener, Gupta og Ketter finner i *Information Systems Research* at det ikke hjelper å vise KI-ens sikkerhet eller resultatfeedback hver for seg, men at det å vise begge øker delegeringen og lar team av mennesker og KI prestere bedre enn hver part alene.

To signaler, én bedre beslutning

Mye av debatten om KI i arbeidslivet forutsetter et enkelt valg mellom menneske og maskin. I mange reelle situasjoner er ordningen mer nyansert. Ved visuell inspeksjon, innholdsmoderering eller søkerutvelgelse arbeider KI-en side om side med en ansatt som beholder beslutningsretten: for hver sak avgjør personen om hun eller han vil håndtere den selv eller overlate den til systemet. Gevinsten ved en slik ordning avhenger av at folk delegerer de riktige sakene, og tidligere forskning viser at de ofte ikke gjør det. Anna Taudien, Andreas Fügener og Wolfgang Ketter (Universitetet i Köln) og Alok Gupta (University of Minnesota) undersøker hvilken type systeminformasjon som hjelper brukere å delegere bedre.

Forskerne sammenlignet to typer informasjon. Den første er KI-ens sikkerhet, som vises før brukeren bestemmer seg for om en sak skal delegeres. Den andre er resultatinformasjon, som vises i etterkant og forteller brukeren om KI-ens beslutning viste seg å være riktig. I en tidligere konferanseversjon av prosjektet (ICIS 2022) testet forfatterne disse to funksjonene hver for seg og i kombinasjon i et 2x2-eksperiment med mellomgruppedesign og 560 deltakere.

Ifølge Taudien, Fügener, Gupta og Ketter (*Information Systems Research*, 2026) hadde hver informasjonstype alene ingen positiv effekt, og i noen tilfeller reduserte den til og med effektiv delegering. Kombinert økte de imidlertid hvor ofte folk delegerte, og hjalp dem å sende nettopp de oppgavene der KI-en hadde et prestasjonsfortrinn, til KI-en. Med begge signalene på plass presterte team av mennesker og KI bedre enn både KI alene og mennesker alene.

Logikken er intuitiv når den først er formulert. En sikkerhetsscore forteller brukerne hvor KI-en mener den er sterk, men uten feedback kan de ikke lære om de bør tro på den. Resultatfeedback forteller brukerne når KI-en hadde rett, men uten et sikkerhetssignal kan de ikke overføre denne historikken til neste sak. Sammen gir de to signalene brukerne et brukbart bilde av hvor systemets feilgrenser går. Studiens rekkevidde er den situasjonen den beskriver: ansatte som beholder beslutningsretten over bruk av KI i gjentatte oppgaver som behandles sak for sak. Det publiserte sammendraget rapporterer ikke effektstørrelser, så lesere som ønsker tallstørrelser, bør lese hele artikkelen.

Hvorfor det betyr noe: For forskere som studerer samarbeid mellom mennesker og KI, er artikkelen en klar demonstrasjon av at designegenskaper kan samvirke: Å teste dem én om gangen kunne feilaktig føre til konklusjonen at ingen av dem virker. For forskere som selv bruker KI, for eksempel til å kode kvalitative data, screene litteratur eller klassifisere tekst, gjelder den samme lærdommen ved skrivebordet: Be om modellens sikkerhet og fortsett å kontrollere utdataene mot fasit, fordi ingen av vanene alene forteller deg når du kan stole på den. Og for organisasjoner gir funnet en betryggende motvekt til automatiseringsfortellingene, siden velinformerte mennesker fortsatt tilfører verdi når KI kommer inn i beslutningene.

Taudien, A., Fügener, A., Gupta, A., & Ketter, W. (2026). Enhancing AI Use: How Complementary System Information Drives Delegation Frequency and Effectiveness. *Information Systems Research*. Les originalartikkelen. Uavhengig redaksjonell oppsummering av tredjepartsforskning.

Kommentarer


Dette initiativet støttes av følgende organisasjoner:

  • Twitter
  • LinkedIn
  • YouTube
logo_edited.png
bottom of page