KI i forskningen: Kan du fortsatt etterprøve det maskinen har laget?
Image: "Microscopy Lab Tour at the Colorado School of Mines - 8905720941" by SparkFunElectronics (CC BY 2.0) via Wikimedia Commons, recoloured.
Velkommen til ukens gjennomgang av hvordan KI endrer forskningen, med utvalgt stoff fra Nature, Science, PNAS og de ledende tidsskriftene innen økonomi, ledelse og samfunnsvitenskap.
Sporbarhet og etterprøvbarhet: kan vi fortsatt kontrollere KI-produsert vitenskap?
I en ny artikkel i Science argumenterer Christoph Trattner for at KI «beveger seg oppstrøms» i vitenskapen. Utover verktøy som AlphaFold kan agentbaserte systemer nå søke i litteratur, generere hypoteser, skrive og kjøre kode, tolke resultater og automatisere store deler av veien fra idé til artikkel. Den dypere endringen, hevder han, gjelder hvem, eller hva, som avgjør hvilke spørsmål som stilles, hvilke bevis som løftes fram og hvilke alternativer som overlever. Når maskinintelligens blir en del av vitenskapens epistemiske infrastruktur, må forskere som verken har bygget, eier eller driver et system, likevel kunne bestride hvordan ideer og bevis ble til en påstand.
To saker denne uken viser hvordan dette ser ut i praksis. Forskere i Google DeepMind rapporterer i Nature om SynthIDBio, som legger et skjult vannmerke inn i KI-designede proteinsekvenser og -strukturer uten å svekke funksjonen: vannmerkede proteinbindere beholdt en bindingsaffinitet på nivå med umerkede, og deteksjonen var nesten perfekt. Som Natures nyhetsdekning påpeker, kan merket imidlertid fjernes ved å kjøre proteinet gjennom et annet designverktøy, så det utgjør ett lag av sporbarhet og ingen garanti. Samtidig ble vinnervideoen i Nikons konkurranse Small World in Motion kritisert av mikroskopister som mener den viser biologisk usannsynlige strukturer. Arrangøren opplyste senere at en «ikke-veiledet» KI-modell bidro i etterbehandlingen; skaperen sier at KI bare ble brukt til å skille ut og fargelegge strukturer, og at den verken genererte flimmerhårene eller bevegelsen deres. Som en forsker sa til Nature, er vitenskapelige bilder «data».
Hvorfor det betyr noe: For samfunnsforskere og forskere innen økonomi og ledelse gjelder lærdommen langt utover biologien. Hver gang et KI-steg står mellom dataene dine og påstanden din, for eksempel transkripsjoner kodet med store språkmodeller, spørreskjemasvar renset med KI, syntetiske stimuli eller modellgenererte figurer, må fagfeller og lesere kunne se og utfordre dette steget. Opplys hvor KI har vært involvert i prosessen, ta vare på de opprinnelige dataene, og behandle «modellen gjorde det» som en metode som må dokumenteres og kunne etterprøves, i stedet for som en svart boks.
Mer fra denne uken
AlphaEvolve tar fatt på 67 matematiske problemer, sammen med Terence Tao
Bogdan Georgiev, Javier Gómez-Serrano, Terence Tao og Adam Zsolt Wagner bruker AlphaEvolve, en evolusjonær kodeagent som kombinerer store språkmodeller med automatisert evaluering, på 67 problemer innen analyse, kombinatorikk, geometri og tallteori. I de fleste tilfellene gjenoppdaget den de beste kjente løsningene, i flere tilfeller forbedret den dem, og noen ganger generaliserte den resultater for endelig mange input til en formel som gjelder for alle input. Det sentrale designtrekket er den automatiserte evaluatoren: hvert forslag blir kontrollert, og det er nettopp denne typen etterprøvbarhet de fleste forskningsfelt mangler.
Generativt søk øker kjøp i et stort felteksperiment
Shuang Zheng og medforfattere gjennomførte et storskala felteksperiment på Meituan, en stor kinesisk plattform, der de sammenlignet generativt søk (KI-genererte svar vist før de konvensjonelle resultatene) med søkeordsøk. Generativt søk økte kjøpene betydelig, ga mer effektive og varierte søk og reduserte utforskende surfing, samtidig som vurderingen ble konsentrert om relevante kategorier og forhandlere. For markedsføringsforskere gjør studien et tidligere skjult stadium i søket, nemlig det å omgjøre et behov til søkeord, empirisk observerbart.
Akselererer KI innovasjon? 32 forskere gir sitt syn
Basert på 32 intervjuer med amerikanske akademiske forskere innen produksjon og materialvitenskap med erfaring fra KI/maskinlæring finner John Nelson og kolleger at KI hovedsakelig brukes til å modellere materialer og prosesser, noe som gjør søk i designrom billigere og raskere. Verktøyene var imidlertid upålitelige utenfor dataregioner med rikelig data, krevde kyndig bruk i kombinasjon med eldre teknikker og vakte bekymring for at man kunne gå glipp av banebrytende teoretiske fremskritt. Forfatterne ser grunn til optimisme for inkrementell innovasjon, forutsatt at konvensjonell forskning fortsatt finansieres.
«Epistemisk fortryllelse»: hvordan KI-prosjekter i rekruttering fortsetter å vokse
Elmira van den Broek og Natalia Levina fulgte en HR-avdeling som innførte KI for kandidatutvelgelse, over tre år. Datafiseringen utvidet seg langt utover teknologiens opprinnelige omfang, noe de forklarer gjennom epistemisk fortryllelse (epistemic enchantment): medlemmene ble fengslet av KIs løfte om prediktiv, objektiv og stadig bedre innsikt, mens de overså kostnadene og risikoene. «Ideelle data» ble et mål som alltid var ønsket, men aldri nådd. Dette er et nyttig begrep for alle som studerer, eller leder, innføring av KI.
Det var alt for denne uken. Videresend gjerne til en kollega som lurer på hvordan de skal opplyse om KI-bruken i sin forskningsprosess, og utforsk KI-verktøy for din egen forskning på gaiforresearch.com.
Kommentarer