Etikken rundt generativ KI i samfunnsvitenskapen: tre narrativer fra 17 forskere tidlig i karrieren
august
Generativ KI i samfunnsvitenskapen
Generativ kunstig intelligens (generativ KI) endrer i grunnleggende grad måten samfunnsvitenskapelig forskning gjennomføres på. Den kan skrive, kode, oversette, bistå med litteratursøk og til og med generere materiale til eksperimenter (Berg, 2023; Dabić et al., 2023; Lin, 2023; Lund & Wang, 2023; Porsdam Mann, Earp, Møller, et al., 2023). Likevel forblir diskusjonene om de etiske implikasjonene i akademia i stor grad på nivået av en "prinsippsjekkliste", det vil si en liste over omforente "gjør og ikke gjør" (Much to discuss in AI ethics, 2022; Schlagwein WillcocksChatGPT et al., 2023).
Selv om denne tilnærmingen har verdi, strekker den ikke til når forskere står overfor komplekse dilemmaer i reelle akademiske kontekster. For å utforske dette nærmere intervjuet forfatterne 17 samfunnsvitere tidlig i karrieren, og brukte deres historier til å undersøke hva generativ KI betyr i akademia og til å destillere tre typiske narrativer: utjevningsnarrativet, meritokratinarrativet og fellesskapsnarrativet.
Hvordan ble studien gjennomført?
Deltakerne ble rekruttert fra workshoper i beregningsbasert samfunnsvitenskap i Sør-Korea, og omfattet doktorgradsstipendiater, masterstudenter og postdoktorer. De kom fra ulike fagfelt og utdanningsbakgrunner, og de fleste var tilknyttet ressurssterke forskningsuniversiteter. Et fellestrekk var at de befant seg i en tidlig fase av institusjonaliseringen i akademia: de lærte å bruke KI samtidig som de tilpasset seg de regelendringene KI fører med seg i fagfeltene deres.
1. Utjevningsnarrativet
Det sentrale spørsmålet her er om generativ KI kan bidra til å redusere eller ytterligere befeste eksisterende ulikheter i samfunnsvitenskapen. Mange informanters første reaksjon var å se KI som et middel til å fremme akademisk likhet. Særlig la de vekt på potensialet for å bygge bro over gap som skyldes begrensede ressurser, som mangel på veiledning, språkbarrierer og utilstrekkelige programmeringsferdigheter. For forskere som ikke har engelsk som morsmål, tilbyr KI diskrete og rimelige former for støtte, som språkvask og oversettelse, noe som effektivt kan senke kulturelle og akademiske barrierer.
Samtidig uttrykte flere forskere bekymring for at KI kan forsterke skjulte ulikheter. Overdreven avhengighet av KI blant forskere tidlig i karrieren kan svekke motivasjonen for å utvikle grunnleggende ferdigheter, og skape et skille mellom dem som behersker det metodologiske fundamentet og dem som i stor grad støtter seg på KI. Når det gjelder språk, kan forskere med engelsk som morsmål ha bedre forutsetninger for å vurdere kvaliteten på KI-assistert redigering, noe som potensielt kan øke det språklige gapet. Videre risikerer den standardiserte engelske stilen som KI genererer, å forsterke akademisk kulturelt hegemoni, slik at enkelte forskere føler seg fremmedgjort fra sin egen faglige identitet.
Samlet sett var informantene mer opptatt av hvordan KI samspiller med eksisterende akademiske strukturer enn av de tekniske funksjonene isolert sett.
Generativ KI som akademisk utjevner
2. Meritokratinarrativet
Nøkkelspørsmålet i dette narrativet er om forskere som kan bruke KI effektivt, bør anses å ha større akademisk kompetanse. Ett perspektiv hevder at ferdigheter i bruk av KI bør regnes som en del av forskerens faglige kompetanse. Effektiv bruk av KI krever vedvarende trening og strategisk praksis og er langt fra uanstrengt. Mange deltakere sammenlignet generativ KI med andre etablerte forskningsverktøy, som R, SPSS eller Google-søk, og argumenterte for at det bare er enda en ferdighet, og at de som bruker den godt, fortjener anerkjennelse.
På den annen side så noen KI som en mulig drivkraft for skjev fordeling av gevinster. Ikke alle fagfelt eller metodologiske tradisjoner har like mye å vinne. For eksempel har kvantitativ forskning ofte større nytte, mens kvalitativ forskning kan bli ytterligere marginalisert. I tillegg kan avanserte KI-tjenester bli kommersialisert og kostbare, noe som forsterker økonomiske forskjeller mellom forskere.
KI-ferdigheter og akademisk fortjeneste
3. Fellesskapsnarrativet
Dette narrativet retter oppmerksomheten mot de langsiktige implikasjonene av generativ KI for det akademiske fellesskapet og de institusjonelle systemene. Forskernes syn delte seg her i to leirer: de som fremhevet positive bidrag, og de som advarte mot risiko. På den positive siden kan KI forbedre forskningens effektivitet og stringens, for eksempel ved å automatisere modelltesting og redusere overflødig tekst. Den kan også forbedre stilen i akademisk skriving, gjøre artikler mer konsise og i fremtiden bistå med fagfellevurdering, noe som kan avhjelpe mangelen på fagfeller. Endelig kan KIs oversettelses- og informasjonstjenester utvide leserskaren for akademisk arbeid, og dermed styrke forskernes samfunnsansvar og utvide deres innflytelse.
Ved siden av disse fordelene pekte deltakerne også på betydelige risikoer. KI kan redusere kvaliteten på litteraturgjennomganger, føre til homogenisering og mekanisering og undergrave kreativiteten i forskningen. Inkonsistente og ikke-reproduserbare resultater utgjør også en utfordring for vitenskapens etterprøvbarhet. Dessuten fryktet noen informanter at økningen i forskningsproduksjon som KI muliggjør, vil overgå kapasiteten til fagfellevurdering og potensielt svekke den samlede akademiske kvaliteten.
KIs innvirkning på det akademiske fellesskapet
Konklusjon
Teoretisk bygger denne artikkelen på analytiske rammeverk fra vitenskaps- og teknologistudier (STS) og teknologifilosofi, og introduserer perspektivet etikk-i-praksis (ethics-in-practice), som understreker at etiske vurderinger må gjøres i lys av konkrete kontekster og institusjonelle betingelser. Samtidig tar den til orde for kontinuerlig etisk gransking gjennom hele livssyklusen til KI-teknologien, for å sikre at bruken ivaretar både samfunnsansvar og akademisk integritet.
Samlet sett hevder studien at forskningsetikken for generativ kunstig intelligens ikke bare bør hvile på universelle og abstrakte teknologiske reguleringer, men i stedet bør forankres institusjonelt i konkrete akademiske kontekster.
Effektive etiske normer må utformes gjennom demokratiske diskusjoner og overveielser på flere nivåer, inkludert fakulteter, institutter og fagfelt.
Roten til etiske problemer ligger ofte ikke i teknologien selv som en isolert faktor, men i samspillet mellom teknologien og eksisterende strukturelle ulikheter.
Derfor bør universiteter og akademiske fellesskap se fremveksten av generativ KI som en mulighet til å undersøke og forbedre sine egne strukturelle problemer, i stedet for bare å konsentrere seg om å forebygge eller avvise den potensielle risikoen.
Referanser:
Berg, C. (2023). The case for generative AI in scholarly practice. *Available at SSRN 4407587*.
Dabić, M., Maley, J. F., Švarc, J., & Poček, J. (2023). Future of digital work: Challenges for sustainable human resources management. *Journal of Innovation & Knowledge*, *8*(2), 100353.
Intelligence, N. M. (2022). Much to discuss in AI ethics. *Nat Mach Intell*, *4*, 1055-1056.
Jeon, J., Kim, L., & Park, J. (2025). The ethics of generative AI in social science research: A qualitative approach for institutionally grounded AI research ethics. *Technology in Society*, *81*, 102836.
Lin, Z. (2023). Why and how to embrace AI such as ChatGPT in your academic life. *Royal Society Open Science*, *10*(8), 230658.
Lund, B. D., & Wang, T. (2023). Chatting about ChatGPT: how may AI and GPT impact academia and libraries?. *Library hi tech news*, *40*(3), 26-29.
Porsdam Mann, S., Earp, B. D., Møller, N., Vynn, S., & Savulescu, J. (2023). AUTOGEN: A personalized large language model for academic enhancement - Ethics and proof of principle. *The American Journal of Bioethics*, *23*(10), 28-41.
Schlagwein, D., & Willcocks, L. (2023). ‘ChatGPT et al.’: The ethics of using (generative) artificial intelligence in research and science. *Journal of Information Technology*, *38*(3), 232-238.
Kommentarer