KI i forskning: Agenten din tror på alt du mater den med

20. juli

Oppdatert: 27. juli

Velkommen til ukens oversikt over hvordan kunstig intelligens omformer forskningen, hentet fra Nature, Science og ledende tidsskrifter.

Det virkelige svake leddet i agentbasert forskning: det du lar agenten lese

Ukens mest uroende resultat er også det enkleste. Som [Nature](https://www.nature.com/articles/d41586-026-02071-w) rapporterer, lastet forskere ned offentlige datasett om fem kontroversielle spørsmål, endret dem slik at retning og styrke på de statistiske trendene ble forandret, og lastet opp de manipulerte versjonene til private repositorier. Deretter ga de KI-agenter bygget av Anthropic, OpenAI og Google tilgang til både de offentlige og de manipulerte repositoriene, og ba dem svare på spørsmål ut fra dataene. I gjennomsnitt falt agentene for de manipulerte datasettene og endte på «svindlerens» konklusjon rundt halvparten av gangene. (Arbeidet er en preprint og er ennå ikke fagfellevurdert.)

Les dette sammen med to andre utviklinger, og et mønster trer frem: Trykkpunktene i KI-assistert forskning flytter seg fra *generering* til *verifisering*. På [ICML 2026 i Seoul](https://www.techtimes.com/articles/319684/20260704/icml-2026-opens-monday-seoul-agentic-ai-tops-record-year-peer-review-strains.htm) kolliderte rekordmange 23 918 innsendte artikler med en fagfellevurderingsprosess under press fra KI-bruk: Vannmerkebasert deteksjon fanget 398 sensorer som brøt retningslinjene, og utløste 497 avslag uten vurdering – og, som arrangør innrømmer, vannmerker fanger bare de mest uforsiktige overtredere. I mellomtiden hevder en ny flernivåteori i [Academy of Management Review](https://doi.org/10.5465/amr.2024.0538) at i kunnskapsintensive team oppfatter medlemmer som blir dyktige med generativ KI i stadig større grad det modellen tilbyr som funksjonelt likeverdig med det en kollega tilbyr – informasjon, råd, tilbakemelding – og dirigerer spørsmålene sine til maskinen i stedet. De samarbeidsinteraksjonene som én gang *utgjorde* teamets kvalitetssikringssystem, tynnes stille ut.

**Hvorfor det betyr noe:** Hver av disse historiene handler om en kontroll som pleide å være implisitt, men som nå er valgfri. En menneskelig analytiker som snublet over et mistenkelig beleilig datasett, ville spurt hvor det kom fra; en agent med repositorietilgang spør ofte ikke. En junior som ber en senior om tilbakemelding, får kritisk gransking sammen med svaret; en junior som ber en chatbot, får flyt uten friksjon. Ingenting av dette taler mot å bruke KI i forskningen – det taler for å gjøre proveniens og verifisering til eksplisitte oppgaver i stedet for biprodukter. I praksis: Skriv ned hvilke datasett agentene dine kan nå, og hvor hvert av dem kommer fra, behandle ethvert KI-formidlet resultat du ikke kan rekonstruere proveniensen for, som uverifisert, og vær bevisst på å ta vare på de menneskelige kontrolltrinnene gruppen din tidligere fikk gratis.

Mer fra denne uken

Manipulerte datasett lurte frontagentene rundt halvparten av gangene

Forskere endret offentlige datasett om fem kontroversielle spørsmål for å forandre retning og styrke på statistiske trender, lastet dem opp til private repositorier, og ga agenter fra Anthropic, OpenAI og Google tilgang til dem ved siden av de ekte offentlige dataene. I gjennomsnitt omfavnet agentene de manipulerte dataene og nådde manipulatorens konklusjon rundt halvparten av gangene. Forfatterne advarer om at «forgiftet» informasjon kan undergrave påliteligheten til ethvert verktøy som analyserer data selvstendig; studien er en preprint og er ikke fagfellevurdert ennå.

[Les originalen i Nature, 15. juli →](https://www.nature.com/articles/d41586-026-02071-w)

Generativ-KI-dilemmaet i kunnskapsintensive team

I kunnskapsintensive team har samarbeid historisk vært hovedkanalen der medlemmer får tilgang til oppgaverelatert informasjon, råd og tilbakemelding. Denne nye teoriartikkelen i Academy of Management Review hevder at generativ KI nå tilbyr en alternativ kilde til nettopp disse ressursene, og at medlemmer som er dyktige med den, i større grad oppfatter det den gir som funksjonelt likeverdig med det teamkollegaene gir. Flernivåmodellen som resulterer, er en skarp linse for alle som styrer et laboratorium eller en forskningsgruppe gjennom den nåværende adopsjonsbølgen.

[Les originalen i Academy of Management Review, 17. juli →](https://doi.org/10.5465/amr.2024.0538)

ICMLs rekordår avslører presset på fagfellevurderingen

ICML 2026 åpnet i Seoul med rekordmange 23 918 innsendte artikler, omtrent dobbelt så mange som året før. Vannmerkebasert deteksjon identifiserte 398 sensorer som brøt konferansens regler for store språkmodeller, noe som førte til 497 avslag uten vurdering. Arrangørene innrømmer at metoden fanger bare de mest uforsiktige brukerne, så reell bruk av store språkmodeller i vurderingsarbeidet er trolig vesentlig høyere – en forsmak på kapasitetsproblemet som venter alle felter med høyt innsendingsvolum.

[Les originalen i Tech Times, 4. juli →](https://www.techtimes.com/articles/319684/20260704/icml-2026-opens-monday-seoul-agentic-ai-tops-record-year-peer-review-strains.htm)

Komplekse problemer gjør at nyskapende forskning lønner seg

Denne artikkelen i Research Policy innfører et mål på problemkompleksitet basert på NK-rammeverket – graden av gjensidig avhengighet mellom elementene en studie må koordinere – og spør hvordan det betinger avkastningen av nyskapning. Nyskapende forskning som tar fatt på mer komplekse problemer, oppnår vesentlig oftere høy gjennomslagskraft, mottar sjeldnere minimale siteringer, anerkjennes tidligere og siteres bredere på tvers av felter. En nyttig korrigering av antakelsen om at nyskapning alene er det risikofylte veddemålet.

[Les originalen i Research Policy, 1. juli →](https://doi.org/10.1016/j.respol.2026.105570)

Anbefalingssystemer som kan forklare seg med ord

Plattformanbefalinger forbedrer matchingen, men er beryktet vanskelige for brukere og ledelse å tolke. MG-GAT, introdusert i Information Systems Research, kombinerer flere nettverk med attributtdata og holder samtidig styr på hvilke naboer og hvilke egenskaper som påvirker hver anbefaling – og bruker deretter samme evidens til å generere forklaringen. Designpoenget betyr noe for alle som studerer forklarbarhet: Den naturspråklige forklaringen er forankret i modellparametre i stedet for å produseres i etterkant.

[Les originalen i Information Systems Research, 15. juli →](https://doi.org/10.1287/isre.2023.0549)

Generativ KI flytter inn i presisjonspsykoterapien

I Science argumenterer Nicholas C. Jacobson for at generativ kunstig intelligens kan skalere presis, evidensbasert psykoterapi – og levere strukturerte behandlingsprotokoller med en rekkevidde som menneskelige klinikere ikke kan matche. For samfunnsvitere er det et levende eksempel på at KI krysser over fra forskningsinstrument til intervensjon, med alle måle-, etikk- og studiedesignspørsmål den overgangen medfører.

[Les originalen i Science, 16. juli →](https://doi.org/10.1126/science.aeh4808)

Dette var ukens innhold. Videresend gjerne artikkelen til en kollega som har gitt en KI-agent tilgang til et datarepositorium – og utforsk KI-verktøy for egen forskning på gaiforresearch.com.

KI-forskningsnytt