与黑箱共舞：在质性方法开发中使用生成式人工智能的偏见与能动性图谱

Yuan Ren

5月1日

*剖析质性研究中人工智能的偏见*

生成式人工智能不只是工具

站在2020年代中期回望，很难想到近年来学术界还有哪一项变化比生成式人工智能（GenAI）的兴起更具颠覆性。正如德勒兹与加塔利在1980年代所写：“工具只存在于它们所促成的、或促成它们的那些交织关系之中。”今天，这一论断对新的人工智能技术，尤其是生成式人工智能而言，显得格外贴切。生成式人工智能远非一个简单的工具。它是一个宏大而复杂、与社会深度纠缠的装置，由技术、基础设施、人类劳动、经济、文化、政治、权力、意识形态、自然资源、燃料、历史、分类体系以及意义建构相互交织而成（Crawford, 2021; Lindgren, 2024）。

随着生成式人工智能以惊人的速度发展，它许诺了前所未有的效率，并在我们如何工作、沟通与创造方面，催生了关于革命性进步的强大想象。学术界迅速加入这股浪潮，将生成式人工智能用于支持教学、行政与研究（Burton et al., 2024; Perkins & Roe, 2024）。然而，人工智能最终在政治、实践、社会层面以及在质性研究中成为什么，并非由自然预先决定。它是社会政治过程的结果，而学者本身也参与其中（Lindgren, 2024）。正因如此，将生成式人工智能纳入质性研究设计的研究者需要进行批判性反思。他们需要从权力、政治与技术等更宏观的问题出发审视人工智能（Roberts & Bassett, 2023）。目前，针对人工智能技术的立法监管仍需数年时间，而且很可能被迅速的技术发展所超越。无论有无此类监管，学术界都需要对生成式人工智能如何被使用、如何重塑研究保持高度警觉。

核心问题之一在于人工智能工具的“黑箱”性质。对研究者而言，几乎不可能评估人工智能的意识形态基础、嵌入数据集与分类体系中的偏见、系统开发背后的劳动条件，或是开发与使用这些模型所造成的环境足迹。生成式人工智能模型为质性研究所生成的意义、知识与提示从来都不是中立的。它们“根植于社会既有的权力结构与刻板印象之中”（Lindgren, 2024）。如果不加批判地使用，这些技术很容易复制，有时甚至强化有害的社会动态。

*描绘质性研究中生成式人工智能背后的隐藏网络*

从被动工具到能动的行动元

为应对这一挑战，Minna Vigren 与 Luis Lozano Paredes 在 *Struggling With the Black Box: Mapping Bias and Agency in Using Generative Artificial Intelligence in Qualitative Method Development* 一文中，提出以行动者网络理论（ANT）作为分析框架。她们将生成式人工智能视为知识生产中的一个“行动元”（actant），即在网络中发挥作用的人类或非人类实体（Latour, 2007）。在质性方法开发中，生成式人工智能常被错误地当作被动工具。但从行动者网络理论的视角来看，生成式人工智能显然是一个积极的参与者。它与人类研究者、机构基础设施以及社会关系相互作用。它中介意义建构，影响诠释实践，并将自身的认识论逻辑嵌入研究情境，从而塑造研究过程本身。Vigren 与 Lozano Paredes 同时保留了“作为集合体的人工智能”（AI-as-assemblage）这一视角，使人工智能背后的异质要素不会从分析中消失。这种遵循 Latour 的行动者网络理论（Latour, 2007）与 Law 的方法集合体概念（Law, 1992）的双重框架，使研究者既能探究人工智能参与构成的现实，又能让其物质性与攫取性的基础保持可见。

为使这些问题更加具体，Vigren 与 Lozano Paredes 以一个名为“未来图景”（Images of the Future）的工作坊作为案例。在该工作坊中，年轻人使用文本生成图像的生成式人工智能工具 Wombo Dream 来可视化他们所期望的未来。该项目源于开发新方法路径的需要，这些路径旨在增强人们想象替代性未来的能力，并借此挑战“当前社会状况不可避免”的假设（Galafassi et al., 2018; Yusoff & Gabrys, 2011）。在这里，想象力被理解为一种可以训练的集体技能，而不应仅仅留给少数掌权者（Eskelinen et al., 2020; Galafassi et al., 2018; Salmenniemi et al., 2024）。

*作为行动元的生成式人工智能：追溯偏见、能动性与问责*

“未来图景”工作坊揭示了什么

在工作坊中，许多参与者感到用人工智能生成图像比从一张白纸开始更容易。在这个意义上，生成式人工智能确实有助于激发构思。但当参与者自身的想象与 Wombo Dream 中编码的假设发生碰撞时，偏见便开始显现。例如，当参与者输入“可持续社区”之类的提示时，系统反复生成高楼林立、技术饱和的景观：这些绿化了的垂直城市主义图像，悄然排挤了其他更具社群主义色彩的想象。在这一刻，Wombo Dream 充当了一种认识论过滤器。它编码了自身关于进步或可持续性应当是什么样子的假设。这些摩擦时刻呼应了行动者网络理论的一个关键观点：网络只有通过行动元之间持续的协商才能保持稳定（Goodwin & Kuehn, 2021）。有趣的是，通过对人工智能生成的图像进行反驳，参与者被推动去磨砺自己的想象。他们必须修改或纠正视觉输出，使其更好地反映他们真正期望的未来。

这表明人工智能系统如何通过其训练数据与分类选择体现偏见（Akter et al., 2021; Crawford, 2021）。从意识形态与政治倾向到代表性缺口，人工智能系统映照出塑造它们的社会与制度环境（Lindgren, 2024）。这些偏见并不停留在技术系统内部。随着人工智能日益塑造公众的知识与认知，其社会后果也变得更加广泛和深远（Motoki et al., 2024; Rozado, 2024）。已有研究表明，Wombo Dream 等图像生成模型带有更为保守的偏见，在2023年至2024年间与右翼刻板印象的契合度显著上升。当人工智能被用于想象未来时，其输出并非简单地呈现一个开放的可能情景领域。相反，它们微妙地将某些未来框定为“理想的”，同时将其他未来推向边缘。

黑箱之中隐藏着什么

随着 Vigren 与 Lozano Paredes 进一步拆解生成式人工智能的黑箱，她们指出，它深深嵌入在 Crawford（2021）所说的“计算的攫取性系统”之中。借助行动者网络理论中“点化”（punctualization）与“去点化”（depunctualization）的概念，黑箱可以被部分重新打开。当一个系统运行顺畅时，它就被点化了：它表现为一个统一的行动元。通过去点化，研究者可以重新拉远视角，揭示使系统得以运转的训练数据、所有权结构与环境成本（Law, 1992; Latour, 2007）。对质性研究者而言，这种“拉近/拉远”的视角至关重要。

在机构层面，Vigren 与 Lozano Paredes 的研究揭示了企业人工智能与学术治理之间的结构性阻力。承办该研究项目的大学主要关注数据安全，而非更广泛的伦理问题或生成式人工智能系统的不透明性。结果，审查这些系统成为研究者个人的责任，尽管这几乎不可能做到。例如，人工智能模型往往通过大规模获取数字材料构建而成，却未给予创作者署名或征得其同意，而训练与分类方案对外部人员来说仍极难审查（Crawford, 2021）。此外，训练大语言模型所需的数据标注工作常被外包给全球南方的“幽灵劳工”，他们领取贫困线水平的工资，在不稳定的条件下工作，并受到严密监控（Gray & Suri, 2019; Hurlburt, 2023; Regilme, 2024）。

环境成本是黑箱中另一层被隐藏的内容。尽管人工智能常被宣传为推动可持续转型的动力，但这种技术解决主义的话语往往忽视了其巨大的生态后果。人工智能的碳足迹不仅包括模型训练与部署所需的能源，还包括数据中心的运行，在某些评估中还包括底层硬件基础设施的制造（de Vries, 2023; Strubell et al., 2019）。除能源消耗外，人工智能还消耗大量淡水（Li et al., 2023; Ren & Wierman, 2024），并因硬件所需的矿产开采而造成环境危害（Crawford, 2021）。数据中心占用土地、消耗建筑材料，且往往在短时间内就被淘汰，加剧了日益严重的电子垃圾问题（Baldé et al., 2024; Velkova, 2019）。

*黑箱之内：人工智能如何塑造想象与知识生产*

研究者同样身处网络之中

由此可见，研究者在这一复杂的人工智能集合体中占据关键位置。当我们在研究中使用生成式人工智能时，我们也在参与这些技术的推广与驯化。我们帮助它们在社会与市场框架中常态化，并可能最终服务于企业利益。Wombo Dream 就是一个很能说明问题的例子。尽管该应用自称正在“打造互联网上最快乐的地方”，它后来却卷入了与政治内容创作相关的争议，例如“Trumpify”相框，以及涉嫌侵犯用户生物识别信息的法律纠纷。这清楚地表明：人工智能工具远非中立。它们受到更广泛的政治与经济议程塑造，并可能强化逐利动机与集中化控制。

面对这些错综复杂的挑战，Vigren 与 Lozano Paredes 强调批判性人工智能素养的重要性。尽管工作坊最初聚焦于图像生成，它却自然而然地成为一个批判性反思的空间。参与者得以思考人工智能及其伦理、社会与环境层面的复杂性如何塑造世界，以及我们真正希望生活在怎样的技术世界中。研究者的责任可以从三个维度来理解。其一是认识论责任：承认生成式人工智能是塑造研究结果的积极中介者，而非中立工具。其二是基础设施责任：追溯使生成式人工智能成为可能的社会物质条件，包括劳动与环境成本。其三是教学责任：当研究涉及人类参与者与生成式人工智能互动时，培养批判性人工智能素养。

学会与黑箱共处

通过对方法开发的自我反思与行动者网络分析，Vigren 与 Lozano Paredes 认为，黑箱不仅是理解的障碍，更是当代人工智能系统的一种递归性状况。她们的贡献在于开发了一套系统化方案，使这种能动性在方法开发情境中得以进行分析。该方案为研究者提供了一个部署前审查框架，并表明不透明性不只是单一的障碍，而是一种在机构、企业与基础设施各层面之间循环流转的递归属性。

在质性研究中，生成式人工智能不应被视为通往效率的捷径。研究者应将其作为协作性的行动元来对待，并借助行动者网络理论把它的不透明性转化为批判性探究的对象。这一路径鼓励研究者认识到生成式人工智能的能动性与影响力，而不是将其视为脱离情境或中立的存在。正如 Latour 所提示的，行动者网络理论的价值不在于稳定网络，而在于使网络的脆弱、断裂与潜能变得可见。

展望未来，我们需要追问：研究者如何能够抵抗人工智能产业的霸权叙事，我们的研究介入又如何能够参与对人工智能技术发展及其社会角色的彻底重新想象。在将生成式人工智能纳入方法工具箱时，质性研究者需要进行严格的伦理与方法论审视。他们不仅要审视工具的偏见，还要审视其治理意涵、意识形态与政治，以及长期的认识论后果。与黑箱共处并不只是接受其不可知性。它意味着在方法过程的每个阶段描绘、质疑并协商其能动性。这是一场艰难且常常令人不适的角力。但正是这场角力，为在技术黑箱不断增多的时代捍卫学术工作的完整性、负责任地使用新技术提供了一条路径。由此，质性研究所能做的不仅是揭示社会现实。通过与非人类行动元的持续互动，它还能帮助重建一个更具反思性的方法论图景。

References

Corbin, J. M., & Strauss, A. L. (2015). *Basics of qualitative research: techniques and procedures for developing grounded theory* (4. utgave). Sage. https://contents.bibs.aws.unit.no/files/images/large/1/6/9781412997461.jpg

Friese, S. (2026). From Coding to Conversation: A New Methodological Framework for AI-Assisted Qualitative Analysis. *Qualitative Inquiry*. https://doi.org/10.1177/10778004251412871

Gadamer, H.-G. (1960). *Hermeneutik 1. Wahrheit und meth ode. Grundzüge einer philosophischen Hermeneutik.* Mohr-Siebeck.

Gao, J., Kenny Tsu Wei Choo, Cao, J., Roy Ka Wei Lee, & Perrault, S. (2023). CoAIcoder: Examining the Effectiveness of AI-assisted Human-to-Human Collaboration in Qualitative Analysis. *arXiv.Org*.

Goyanes, M., Lopezosa, C., & Jordá, B. (2025). Thematic analysis of interview data with ChatGPT: designing and testing a reliable research protocol for qualitative research. *Quality & Quantity*, *59*(6), 5491–5510. https://doi.org/10.1007/s11135-025-02199-3

Hayes, A. S. (2025). “Conversing” With Qualitative Data: Enhancing Qualitative Research Through Large Language Models (LLMs). *International Journal of Qualitative Methods*, *24*. https://doi.org/10.1177/16094069251322346

Hitch, D. (2024). Artificial Intelligence Augmented Qualitative Analysis: The Way of the Future? *Qualitative Health Research*, *34*(7), 595–606. https://doi.org/10.1177/10497323231217392

Krähnke, U., Pehl, T., & Dresing, T. (2025). Hybride Interpretation textbasierter Daten mit dialogisch integrierten LLMs: Zur Nutzung generativer KI in der qualitativen Forschung. SSOAR. https://nbn-resolving.org/urn:nbn:de:0168-ssoar-99389-7

LIXANDRU, I.-D. (2024). The Use of Artificial Intelligence for Qualitative Data Analysis: ChatGPT. *Informatica Economica*, *28*(1/2024), 57–67. https://doi.org/10.24818/issn14531305/28.1.2024.05

Mannheim, K. (1936). Ideology and utopia: An introduction to the sociology of knowledge (L. Wirth & E. Shils, Trans.). Harcourt, Brace & Company.

Morgan, D. L. (2026). Query-Based Analysis: A Strategy for Analyzing Qualitative Data Using ChatGPT. *Qualitative Health Research*, *36*(2–3), 206–217. https://doi.org/10.1177/10497323251321712

Nguyen-Trung, K., & Nguyen, N. L. (2026). Narrative-Integrated Thematic Analysis (NITA): How can LLMs support theme generation without coding? *Qualitative Research in Psychology*, 1–37. https://doi.org/10.1080/14780887.2026.2638348

Perkins, M., & Roe, J. (2024). The use of generative AI in qualitative analysis: Inductive thematic analysis with ChatGPT. Journal of Applied Learning & Teaching, 7(1), 390–405. https://doi.org/10.37074/jalt.2024.7.1.22

Schäffer, B., & Lieder, F. R. (2023). Distributed interpretation - teaching reconstructive methods in the social sciences supported by artificial intelligence. *Journal of Research on Technology in Education*, *55*(1), 111–124. https://doi.org/10.1080/15391523.2022.2148786

Strübing, J., Hirschauer, S., Ayaß, R., Krähnke, U., & Scheffer, T. (2018). Gütekriterien qualitativer Sozialforschung. Ein Diskussionsanstoß. *Zeitschrift Für Soziologie*, *47*(2), 83–100. https://doi.org/10.1515/zfsoz-2018-1006

Xiao, Z., Yuan, X., Q Vera Liao, Abdelghani, R., & Pierre-Yves Oudeyer. (2023). Supporting Qualitative Analysis with Large Language Models: Combining Codebook with GPT-3 for Deductive Coding. *arXiv.Org*. https://doi.org/10.48550/arxiv.2304.10548

Zackary Okun Dunivin. (2024). Scalable Qualitative Coding with LLMs: Chain-of-Thought Reasoning Matches Human Performance in Some Hermeneutic Tasks. *arXiv.Org*.

Zhang, H., Wu, C., Xie, J., Rubino, F., Graver, S., Kim, C., Carroll, J. M., & Cai, J. (2024). When Qualitative Research Meets Large Language Model: Exploring the Potential of QualiGPT as a Tool for Qualitative Coding. *arXiv.Org*.