Etikken ved å bruke generativ KI til kvalitativ dataanalyse

1. mai 2024

Robert M. Davison, Hameed Chughtai, Petter Nielsen, Marco Marabelli, Federico Iannacci, Marjolein van Offenbeek, Monideepa Tarafdar, Manuel Trenz, Angsana A. Techatassanasoontorn, Antonio Díaz Andrade, Niki Panteli

Først publisert: 21. januar 2024

https://doi.org/10.1111/isj.12504

Hovedpoeng

Bruken av generativ kunstig intelligens (GAI) til kvalitativ dataanalyse reiser flere etiske spørsmål som forskere må vurdere nøye. Disse spørsmålene spenner over dataeierskap og rettigheter, datapersonvern og åpenhet, fortolkningsmessig tilstrekkelighet, skjevheter som manifesteres i GAI, og forskernes ansvar og handlekraft.

Å overgi forskningsdata til kommersielle GAI-plattformer i bytte mot automatisert analyse kan krenke datarettigheter og konfidensialitetsavtaler med forskningsdeltakere og organisasjoner.

Å bruke GAI til analyse reiser personvernbekymringer når sensitive data deles med KI-verktøy, særlig hvis deltakere og organisasjoner ikke er informert om eller ikke samtykker til denne datautvekslingen.

Overdreven avhengighet av GAI til koding og analyse har begrensninger, fordi GAI mangler den kontekstuelle forståelsen, empatien og bevisstheten som menneskelige forskere har, og som er avgjørende for dyp kvalitativ fortolkning.

GAI-modeller kan legge inn sosiale skjevheter, stereotypier og privilegerte vestlige perspektiver som blir videreført i de automatiserte analyseresultatene på måter som er vanskelige å kritisk granske og korrigere.

Forskere har et epistemisk ansvar for å stå til rette for bevisene og påstandene de fremmer. Blind anvendelse av GAI uten menneskelig handlekraft og tilsyn anses som uetisk. Forskeren må opprettholde forfatterskap og ansvarlighet.

Faste etiske retningslinjer for GAI-bruk er ikke hensiktsmessige gitt teknologien raske utvikling. I stedet bør det utvikles et sett med stadig utviklende «levende retningslinjer» gjennom løpende dialog for å navigere de etiske kompleksitetene.

Sammendrag

Det er viktig å merke seg at teksten i denne lederen er skrevet helt og holdent av mennesker, uten bidrag eller assistanse fra generativ kunstig intelligens (GAI). Redaktøren for ISJ (Robert M. Davison) ble kontaktet av en av ISJs assisterende redaktører (AE) (Marjolein van Offenbeek), som forklarte at den kvalitative dataanalyseprogramvaren ATLAS.ti tilbød gratis analyse av forskningsdata hvis forskeren delte de samme dataene med ATLAS.ti til opplæringsformål for analyseverktøyet sitt. Marjolein mente dette skapte et etisk dilemma. Robert videresendte Marjoleins e-post til ISJs senioredaktører (SE-er) og assisterende redaktører (AE-er) og inviterte dem til å kommentere. Ni av SE-ene og AE-ene svarte med tilbakemeldinger. Vi (de 11 medforfatterne) hadde deretter et par runder med idemyldring før vi samlet teksten i et felles dokument. Dette ble opprinnelig opprettet av Hameed Chughtai, men ble deretter kommentert og redigert av alle medlemmene i teamet. Det endelige…

Fulltekst

Stikkord: tekstanalyse, ansvarlig forskning