在质性数据分析中使用生成式人工智能的伦理问题

2024年5月1日

Robert M. Davison、Hameed Chughtai、Petter Nielsen、Marco Marabelli、Federico Iannacci、Marjolein van Offenbeek、Monideepa Tarafdar、Manuel Trenz、Angsana A. Techatassanasoontorn、Antonio Díaz Andrade、Niki Panteli

首次发表：2024年1月21日

https://doi.org/10.1111/isj.12504

亮点

在质性数据分析中使用生成式人工智能（GAI）引发了一系列伦理问题，研究人员需要认真考虑这些问题。这些问题涵盖数据所有权与权利、数据隐私与透明度、解释充分性、GAI 中显现的偏见，以及研究人员的责任与能动性。

将研究数据交给商业 GAI 平台以换取自动分析，可能会侵犯数据权利，以及与研究参与者和组织签订的保密协议。

当敏感数据与 AI 工具共享时，使用 GAI 进行分析会引发隐私问题，尤其是当参与者和组织未被告知或未同意进行这种数据交换时。

过度依赖 GAI 进行编码和分析存在局限性，因为 GAI 缺乏人类研究人员的语境理解、同理心和意识，而这些对于深入的质性解释至关重要。

GAI 模型可能编码社会偏见、刻板印象和带有特权的西方视角，这些内容会以难以批判性审视和纠正的方式传播到自动化分析输出中。

研究人员负有认识论层面的责任，要对自己的证据和主张负责。在没有人类能动性和监督的情况下盲目应用 GAI 被视为不道德。研究人员必须保持作者身份和问责制。

鉴于技术的快速演进，固定的 GAI 使用伦理指南并不合适。相反，应通过持续的对话制定一套不断演进的“活指南”，以帮助应对伦理复杂性。

摘要

需要指出的是，这篇社论的文本完全由人类撰写，没有任何生成式人工智能（GAI）的贡献或协助。ISJ 的编辑（Robert M. Davison）收到了 ISJ 的一位副编辑（AE）（Marjolein van Offenbeek）的联系，她解释说质性数据分析软件 ATLAS.ti 提出，如果研究人员将同一数据与 ATLAS.ti 共享（用于其分析工具的培训目的），就可以免费分析研究数据。Marjolein 认为这引发了伦理困境。Robert 将 Marjolein 的电子邮件转发给 ISJ 的高级编辑（SEs）和副编辑（AEs），并邀请他们发表评论。九位高级编辑和副编辑回复了反馈意见。我们（11 位联合作者）随后进行了几轮头脑风暴，然后在一份共享文档中将文本整合在一起。这份文档最初由 Hameed Chughtai 创建，之后由团队所有成员评论和编辑。最终……

全文

标签： 文本分析、负责任的科研