Å danse med den svarte boksen: Kartlegging av skjevhet og agens ved bruk av generativ kunstig intelligens i kvalitativ metodeutvikling
Yuan Ren
mai
*Å avdekke KI-skjevhet i kvalitativ forskning*
Generativ KI er mer enn et verktøy
Når vi ser tilbake fra midten av 2020-tallet, er det vanskelig å peke på noen nyere endring i akademia som har vært mer omveltende enn fremveksten av generativ kunstig intelligens (GenAI). Som Deleuze og Guattari skrev på 1980-tallet: «Verktøy finnes bare i relasjon til de sammenblandingene de gjør mulige, eller som gjør dem mulige.» I dag virker denne observasjonen særlig relevant for nye KI-teknologier, og spesielt for generativ KI. Generativ KI er langt mer enn et enkelt verktøy. Det er et omfattende og komplekst apparat, sammenvevd med samfunnet, bygget gjennom en sammenblanding av teknologier, infrastrukturer, menneskelig arbeid, økonomi, kultur, politikk, makt, ideologier, naturressurser, drivstoff, historier, klassifikasjoner og meningsskaping (Crawford, 2021; Lindgren, 2024).
Etter hvert som generativ KI har utviklet seg i forbløffende tempo, har den lovet enestående effektivitet og skapt kraftfulle forestillinger om revolusjonerende fremskritt i hvordan vi arbeider, kommuniserer og skaper. Akademia har raskt sluttet seg til denne bølgen og tatt i bruk generativ KI til støtte for undervisning, administrasjon og forskning (Burton et al., 2024; Perkins & Roe, 2024). Hva KI til slutt blir politisk, praktisk, sosialt og innenfor kvalitativ forskning, er imidlertid ikke forhåndsbestemt av naturen. Det er resultatet av sosiopolitiske prosesser som forskerne selv deltar i (Lindgren, 2024). Derfor trenger forskere som integrerer generativ KI i kvalitative forskningsdesign, kritisk refleksjon. De må undersøke KI i lys av bredere spørsmål om makt, politikk og teknologi (Roberts & Bassett, 2023). Foreløpig ligger lovregulering av KI-teknologier fortsatt flere år frem i tid, og den kan lett bli forbigått av den raske teknologiske utviklingen. Med eller uten slik regulering må akademia være svært oppmerksom på hvordan generativ KI brukes og hvordan den omformer forskningen.
Et av de sentrale problemene er KI-verktøyenes «svarte boks»-karakter. For forskere er det nesten umulig å vurdere KIs ideologiske grunnlag, skjevhetene som er innebygd i datasett og klassifikasjoner, arbeidsforholdene bak systemutviklingen eller det miljømessige fotavtrykket som skapes ved utvikling og bruk av disse modellene. Meningene, kunnskapen og promptene som generative KI-modeller produserer for kvalitativ forskning, er aldri nøytrale. De er «forankret i samfunnets eksisterende maktstrukturer og stereotypiseringer» (Lindgren, 2024). Brukt ukritisk kan disse teknologiene lett gjenspeile, og noen ganger forsterke, skadelige sosiale dynamikker.
*Kartlegging av de skjulte nettverkene bak generativ KI i kvalitativ forskning*
Fra passivt verktøy til aktiv aktant
For å møte denne utfordringen foreslår Minna Vigren og Luis Lozano Paredes i *Struggling With the Black Box: Mapping Bias and Agency in Using Generative Artificial Intelligence in Qualitative Method Development* å bruke aktør-nettverk-teori (ANT) som analytisk rammeverk. De behandler generativ KI som en «aktant» i kunnskapsproduksjonen, det vil si en menneskelig eller ikke-menneskelig enhet som handler innenfor et nettverk (Latour, 2007). I kvalitativ metodeutvikling blir generativ KI ofte feilaktig behandlet som et passivt verktøy. Fra et ANT-perspektiv blir det imidlertid tydelig at generativ KI er en aktiv deltaker. Den samhandler med menneskelige forskere, institusjonelle infrastrukturer og samfunnsmessige relasjoner. Den medierer meningsskaping, påvirker fortolkningspraksiser og bygger inn sin egen epistemiske logikk i forskningssammenhenger, og former dermed selve forskningsprosessen. Vigren og Lozano Paredes holder også ideen om «KI som assemblage» (AI-as-assemblage) i syne, slik at de heterogene elementene bak KI ikke forsvinner fra analysen. Denne doble innrammingen, som følger Latours aktør-nettverk-teori (Latour, 2007) og Laws begrep om metodeassemblage (Law, 1992), gjør det mulig for forskere å utforske virkelighetene KI bidrar til å sette sammen, samtidig som dens materielle og ekstraktive grunnlag forblir synlig.
For å gjøre disse spørsmålene mer konkrete bruker Vigren og Lozano Paredes et verksted kalt «Images of the Future» (Framtidsbilder) som case. I dette verkstedet brukte unge mennesker tekst-til-bilde-verktøyet Wombo Dream, et generativt KI-verktøy, til å visualisere ønskelige fremtider. Prosjektet vokste frem av behovet for å utvikle nye metodiske tilnærminger som kunne styrke folks evne til å forestille seg alternative fremtider, og dermed utfordre antakelsen om at dagens samfunnsforhold er uunngåelige (Galafassi et al., 2018; Yusoff & Gabrys, 2011). Forestillingsevne forstås her som en kollektiv ferdighet som kan trenes, og ikke som noe som bør overlates til de få som har makt (Eskelinen et al., 2020; Galafassi et al., 2018; Salmenniemi et al., 2024).
*Generativ KI som aktant: sporing av skjevhet, agens og ansvarlighet*
Hva verkstedet «Images of the Future» avdekket
Under verkstedet opplevde mange deltakere at det var lettere å bruke KI til å generere et bilde enn å begynne med et blankt ark. I denne forstand bidro generativ KI til å sette i gang idéutvikling. Men når deltakernes egne forestillinger kolliderte med antakelsene som var kodet inn i Wombo Dream, begynte skjevheten å vise seg. Når deltakerne for eksempel skrev prompter som «bærekraftig lokalsamfunn», produserte systemet gang på gang høyhusdominerte, teknologimettede landskap: grønnmalte bilder av vertikal urbanisme som stille skjøv andre, mer fellesskapsorienterte forestillinger til side. I dette øyeblikket fungerte Wombo Dream som et epistemisk filter. Det kodet inn sine egne antakelser om hvordan fremskritt eller bærekraft burde se ut. Disse friksjonsøyeblikkene gjenspeiler et sentralt poeng i ANT: nettverk forblir stabile bare gjennom pågående forhandlinger mellom aktanter (Goodwin & Kuehn, 2021). Interessant nok ble deltakerne, ved å argumentere mot det KI-genererte bildet, presset til å skjerpe sin egen forestillingsevne. De måtte forbedre eller korrigere det visuelle resultatet slik at det bedre gjenspeilte den fremtiden de faktisk ønsket seg.
Dette viser hvordan KI-systemer legemliggjør skjevheter gjennom treningsdata og klassifikasjonsvalg (Akter et al., 2021; Crawford, 2021). Fra ideologiske og politiske tilbøyeligheter til mangler i representasjon speiler KI-systemer de sosiale og institusjonelle omgivelsene som former dem (Lindgren, 2024). Disse skjevhetene blir ikke værende inne i det tekniske systemet. Etter hvert som KI i økende grad former offentlig kunnskap og oppfatning, blir de sosiale konsekvensene bredere og dypere (Motoki et al., 2024; Rozado, 2024). Bildegenereringsmodeller som Wombo Dream har vist seg å ha en mer konservativ skjevhet, med en merkbar økning i samsvar med høyreorienterte stereotypier mellom 2023 og 2024. Når KI brukes til å forestille seg fremtider, presenterer resultatene ikke bare et åpent felt av mulige scenarioer. I stedet rammer de subtilt inn visse fremtider som «ønskelige», mens andre skyves ut i marginen.
Hva som skjuler seg i den svarte boksen
Når Vigren og Lozano Paredes pakker videre ut den svarte boksen i generativ KI, viser de at den er dypt innvevd i det Crawford (2021) kaller «det ekstraktive beregningssystemet». Gjennom ANT-begrepene «punktualisering» (punctualization) og «depunktualisering» (depunctualization) kan den svarte boksen delvis åpnes igjen. Når et system fungerer smidig, blir det punktualisert: det fremstår som én samlet aktant. Gjennom depunktualisering kan forskere zoome ut igjen og avdekke treningsdataene, eierskapsstrukturene og miljøkostnadene som får systemet til å virke (Law, 1992; Latour, 2007). For kvalitative forskere er dette «zoom inn/zoom ut»-perspektivet avgjørende.
På institusjonelt nivå avdekker Vigren og Lozano Paredes' studie den strukturelle motstanden mellom kommersiell KI og akademisk styring. Universitetet som var vertskap for forskningsprosjektet, var hovedsakelig opptatt av datasikkerhet, snarere enn av bredere etiske spørsmål eller av ugjennomsiktigheten i generative KI-systemer. Dermed ble revisjon av disse systemene den enkelte forskers ansvar, selv om dette var nesten umulig å gjennomføre. KI-modeller bygges for eksempel ofte gjennom storstilt innsamling av digitalt materiale uten at skaperne krediteres eller har gitt samtykke, mens trenings- og klassifikasjonsordninger forblir svært vanskelige for utenforstående å revidere (Crawford, 2021). I tillegg blir datamerkingen som kreves for å trene store språkmodeller, ofte satt ut til «spøkelsesarbeidere» i det globale sør, som tjener lønninger på fattigdomsnivå, arbeider under prekære forhold og er utsatt for omfattende overvåking (Gray & Suri, 2019; Hurlburt, 2023; Regilme, 2024).
Miljøkostnaden er et annet skjult lag i den svarte boksen. Selv om KI ofte fremheves som en drivkraft for bærekraftig omstilling, har denne teknosolusjonistiske retorikken en tendens til å overse de enorme økologiske konsekvensene. KIs karbonavtrykk omfatter ikke bare energien som trengs til trening og utrulling av modeller, men også driften av datasentre og, i noen vurderinger, produksjonen av den underliggende maskinvareinfrastrukturen (de Vries, 2023; Strubell et al., 2019). Utover energibruken forbruker KI også store mengder ferskvann (Li et al., 2023; Ren & Wierman, 2024) og forårsaker miljøskader gjennom mineralutvinning til maskinvare (Crawford, 2021). Datasentre legger beslag på arealer, forbruker byggematerialer og blir ofte foreldet i løpet av kort tid, noe som bidrar til det voksende problemet med elektronisk avfall (Baldé et al., 2024; Velkova, 2019).
*Inne i den svarte boksen: hvordan KI former forestillingsevne og kunnskapsproduksjon*
Forskerne er også en del av nettverket
Forskere har altså en avgjørende posisjon i denne komplekse KI-assemblagen. Når vi bruker generativ KI i forskning, deltar vi også i promoteringen og domestiseringen av disse teknologiene. Vi bidrar til å normalisere dem innenfor sosiale og markedsmessige rammer, og kan ende opp med å tjene kommersielle interesser. Wombo Dream er et talende eksempel. Selv om appen presenterer seg som at den «bygger det lykkeligste stedet på internett», ble den senere involvert i kontroverser knyttet til politisk innholdsproduksjon, som fotorammen «Trumpify», samt i rettstvister om påståtte brudd på brukernes biometriske opplysninger. Dette gjør én ting tydelig: KI-verktøy er langt fra nøytrale. De formes av bredere politiske og økonomiske agendaer, og de kan forsterke profittdrevne motiver og sentralisert kontroll.
Stilt overfor disse sammenfiltrede utfordringene understreker Vigren og Lozano Paredes betydningen av kritisk KI-kompetanse. Selv om verkstedet opprinnelig handlet om bildegenerering, ble det på en organisk måte et rom for kritisk refleksjon. Deltakerne kunne tenke over hvordan KI, med sine etiske, sosiale og miljømessige kompleksiteter, former verden, og hva slags teknologisk verden vi faktisk ønsker å leve i. Forskernes ansvar kan forstås i tre dimensjoner. Den første er epistemisk ansvar: å anerkjenne generativ KI som en aktiv mediator som former forskningsresultatene, snarere enn som et nøytralt instrument. Den andre er infrastrukturelt ansvar: å spore de sosiomaterielle betingelsene som gjør generativ KI mulig, inkludert arbeids- og miljøkostnader. Den tredje er pedagogisk ansvar: å fremme kritisk KI-kompetanse når forskning involverer menneskelige deltakere som samhandler med generativ KI.
Å lære å leve med den svarte boksen
Gjennom selvrefleksjon over metodeutvikling og aktør-nettverk-analyse argumenterer Vigren og Lozano Paredes for at den svarte boksen er mer enn et hinder for forståelse. Den er en rekursiv tilstand ved samtidens KI-systemer. Deres bidrag ligger i å utvikle en systematisk protokoll som gjør denne agensen analytisk håndterbar i sammenheng med metodeutvikling. Protokollen gir forskere et rammeverk for revisjon før utrulling og viser at ugjennomsiktighet er mer enn en enkelt barriere. Den er en rekursiv egenskap som sirkulerer gjennom institusjonelle, kommersielle og infrastrukturelle lag.
I kvalitativ forskning bør generativ KI ikke behandles som en snarvei til effektivitet. Forskere bør i stedet tilnærme seg den som en samarbeidende aktant og bruke ANT til å gjøre dens ugjennomsiktighet til gjenstand for kritisk undersøkelse. Denne tilnærmingen oppfordrer forskere til å anerkjenne generativ KI som aktiv og innflytelsesrik, i stedet for å behandle den som kontekstløs eller nøytral. Som Latour antyder, ligger verdien av ANT ikke i å stabilisere nettverk, men i å synliggjøre deres sårbarheter, sammenbrudd og potensialer.
Fremover må vi spørre hvordan forskere kan motstå KI-industriens hegemoniske fortellinger, og hvordan våre forskningsintervensjoner kan ta del i en radikal nytenkning av KIs teknologiske utvikling og dens rolle i samfunnet. Når generativ KI tas inn i den metodiske verktøykassen, trenger kvalitative forskere grundig etisk og metodologisk gransking. De må undersøke ikke bare verktøyets skjevheter, men også dets styringsmessige implikasjoner, ideologi og politikk samt langsiktige epistemiske konsekvenser. Å leve med den svarte boksen betyr mer enn å akseptere at den er uerkjennbar. Det betyr å kartlegge, utfordre og forhandle om dens agens i hvert ledd av den metodiske prosessen. Dette er en vanskelig og ofte ubehagelig kamp. Men det er nettopp denne kampen som gir en vei til å beskytte integriteten i akademisk arbeid og bruke ny teknologi ansvarlig i en tid med stadig flere teknologiske svarte bokser. På denne måten kan kvalitativ forskning gjøre mer enn å avdekke sosial virkelighet. Gjennom sin pågående samhandling med ikke-menneskelige aktanter kan den også bidra til å rekonstruere et mer refleksivt metodologisk landskap.
References
Corbin, J. M., & Strauss, A. L. (2015). *Basics of qualitative research: techniques and procedures for developing grounded theory* (4. utgave). Sage. https://contents.bibs.aws.unit.no/files/images/large/1/6/9781412997461.jpg
Friese, S. (2026). From Coding to Conversation: A New Methodological Framework for AI-Assisted Qualitative Analysis. *Qualitative Inquiry*. https://doi.org/10.1177/10778004251412871
Gadamer, H.-G. (1960). *Hermeneutik 1. Wahrheit und meth ode. Grundzüge einer philosophischen Hermeneutik.* Mohr-Siebeck.
Gao, J., Kenny Tsu Wei Choo, Cao, J., Roy Ka Wei Lee, & Perrault, S. (2023). CoAIcoder: Examining the Effectiveness of AI-assisted Human-to-Human Collaboration in Qualitative Analysis. *arXiv.Org*.
Goyanes, M., Lopezosa, C., & Jordá, B. (2025). Thematic analysis of interview data with ChatGPT: designing and testing a reliable research protocol for qualitative research. *Quality & Quantity*, *59*(6), 5491–5510. https://doi.org/10.1007/s11135-025-02199-3
Hayes, A. S. (2025). “Conversing” With Qualitative Data: Enhancing Qualitative Research Through Large Language Models (LLMs). *International Journal of Qualitative Methods*, *24*. https://doi.org/10.1177/16094069251322346
Hitch, D. (2024). Artificial Intelligence Augmented Qualitative Analysis: The Way of the Future? *Qualitative Health Research*, *34*(7), 595–606. https://doi.org/10.1177/10497323231217392
Krähnke, U., Pehl, T., & Dresing, T. (2025). Hybride Interpretation textbasierter Daten mit dialogisch integrierten LLMs: Zur Nutzung generativer KI in der qualitativen Forschung. SSOAR. https://nbn-resolving.org/urn:nbn:de:0168-ssoar-99389-7
LIXANDRU, I.-D. (2024). The Use of Artificial Intelligence for Qualitative Data Analysis: ChatGPT. *Informatica Economica*, *28*(1/2024), 57–67. https://doi.org/10.24818/issn14531305/28.1.2024.05
Mannheim, K. (1936). Ideology and utopia: An introduction to the sociology of knowledge (L. Wirth & E. Shils, Trans.). Harcourt, Brace & Company.
Morgan, D. L. (2026). Query-Based Analysis: A Strategy for Analyzing Qualitative Data Using ChatGPT. *Qualitative Health Research*, *36*(2–3), 206–217. https://doi.org/10.1177/10497323251321712
Nguyen-Trung, K., & Nguyen, N. L. (2026). Narrative-Integrated Thematic Analysis (NITA): How can LLMs support theme generation without coding? *Qualitative Research in Psychology*, 1–37. https://doi.org/10.1080/14780887.2026.2638348
Perkins, M., & Roe, J. (2024). The use of generative AI in qualitative analysis: Inductive thematic analysis with ChatGPT. Journal of Applied Learning & Teaching, 7(1), 390–405. https://doi.org/10.37074/jalt.2024.7.1.22
Schäffer, B., & Lieder, F. R. (2023). Distributed interpretation - teaching reconstructive methods in the social sciences supported by artificial intelligence. *Journal of Research on Technology in Education*, *55*(1), 111–124. https://doi.org/10.1080/15391523.2022.2148786
Strübing, J., Hirschauer, S., Ayaß, R., Krähnke, U., & Scheffer, T. (2018). Gütekriterien qualitativer Sozialforschung. Ein Diskussionsanstoß. *Zeitschrift Für Soziologie*, *47*(2), 83–100. https://doi.org/10.1515/zfsoz-2018-1006
Xiao, Z., Yuan, X., Q Vera Liao, Abdelghani, R., & Pierre-Yves Oudeyer. (2023). Supporting Qualitative Analysis with Large Language Models: Combining Codebook with GPT-3 for Deductive Coding. *arXiv.Org*. https://doi.org/10.48550/arxiv.2304.10548
Zackary Okun Dunivin. (2024). Scalable Qualitative Coding with LLMs: Chain-of-Thought Reasoning Matches Human Performance in Some Hermeneutic Tasks. *arXiv.Org*.
Zhang, H., Wu, C., Xie, J., Rubino, F., Graver, S., Kim, C., Carroll, J. M., & Cai, J. (2024). When Qualitative Research Meets Large Language Model: Exploring the Potential of QualiGPT as a Tool for Qualitative Coding. *arXiv.Org*.
Kommentarer