社会科学中的生成式人工智能伦理：来自17位青年学者的三种叙事
8月9日
社会科学中的生成式人工智能
生成式人工智能（Generative AI）正在深刻改变社会科学研究的开展方式。它可以写作、编程、翻译、辅助文献检索，甚至为实验生成材料（Berg, 2023; Dabić et al., 2023; Lin, 2023; Lund & Wang, 2023; Porsdam Mann, Earp, Møller, et al., 2023）。然而，学术界关于其伦理影响的讨论大多仍停留在"原则清单"层面，即一份公认的"该做与不该做"事项列表（Much to discuss in AI ethics, 2022; Schlagwein WillcocksChatGPT et al., 2023）。
这种做法虽有其价值，却难以应对研究者在真实学术情境中面临的复杂困境。为深入探讨这一问题，作者访谈了17位青年社会科学学者，借助他们的故事考察生成式人工智能对学术界意味着什么，并提炼出三种典型叙事：平衡器叙事、精英主义叙事和共同体叙事。
研究是如何开展的？
参与者招募自韩国的计算社会科学工作坊，包括博士生、硕士生和博士后研究人员。他们来自不同学科和教育背景，大多隶属于资源充足的研究型大学。他们的共同特点是正处于学术体制化的早期阶段，一边学习使用人工智能，一边适应人工智能给各自领域带来的规则变化。
1. 平衡器叙事
这里的核心问题是生成式人工智能能否帮助缩小社会科学中既有的不平等，抑或会使其进一步固化。许多受访者的第一反应是将人工智能视为促进学术平等的手段。他们尤其强调其弥合资源有限所造成差距的潜力，例如缺乏导师指导、语言障碍以及编程能力不足。对于非英语母语者而言，人工智能提供了低调且廉价的支持形式，如文本润色和翻译，能够有效降低文化与学术门槛。
与此同时，几位学者担忧人工智能可能加深隐性的不平等。青年研究者过度依赖人工智能，可能会削弱其培养基础技能的动力，从而在掌握方法论基础的人与高度依赖人工智能的人之间形成鸿沟。在语言方面，英语母语者可能更有能力判断人工智能辅助编辑的质量，从而可能扩大语言差距。此外，人工智能生成的标准化英语风格有强化学术文化霸权的风险，使一些研究者感到与自身的学术身份相疏离。
总体而言，受访者更关心人工智能如何与既有学术结构相互作用，而较少孤立地关注其技术功能。
作为学术平衡器的生成式人工智能
2. 精英主义叙事
这一叙事的关键问题是能够有效使用人工智能的研究者是否应被视为具有更强的学术能力。一种观点认为，熟练运用人工智能应被视为研究者学术技能的一部分。有效使用人工智能需要持续的训练和策略性的实践，远非毫不费力。许多参与者将生成式人工智能比作其他成熟的研究工具，如 R、SPSS 或 Google 搜索，认为它只是另一项技能，善用者理应得到认可。
另一方面，一些人将人工智能视为利益分配不均的潜在推手。并非所有学科或方法论传统都能同等受益。例如，定量研究往往受益更多，而定性研究可能被进一步边缘化。此外，高级人工智能服务可能走向商业化且价格高昂，从而加剧学者之间的经济差距。
人工智能技能与学术成就
3. 共同体叙事
这一叙事关注生成式人工智能对学术共同体和制度体系的长期影响。学者们在此的观点分为两派：一派强调积极贡献，另一派警示风险。从积极方面看，人工智能可以提高研究效率和严谨性，例如自动化模型检验、减少冗余文本。它还可以改进学术写作风格，使论文更加简洁，未来还可能协助同行评审，缓解审稿人短缺。最后，人工智能的翻译和信息服务可以扩大学术成果的读者群，从而增强学者的社会责任并扩展其影响力。
然而，在这些益处之外，参与者也指出了重大风险。人工智能可能降低文献综述的质量，导致同质化和机械化，并削弱研究的创造力。其输出不一致且不可复现，也对科学的可验证性构成挑战。此外，一些受访者担心，人工智能带来的研究产出激增将超出同行评审的承载能力，可能降低整体学术质量。
人工智能对学术共同体的影响
结论
在理论上，本文借鉴科学技术研究（STS）和技术哲学的分析框架，引入"实践中的伦理"（ethics-in-practice）视角，强调伦理判断必须结合具体情境和制度条件作出。同时，本文主张在人工智能技术的整个生命周期中持续进行伦理审视，以确保其应用兼顾社会责任与学术诚信。
总体而言，本研究认为，生成式人工智能的研究伦理不应仅依赖普遍而抽象的技术规制，而应在具体学术情境中实现制度化扎根。
有效的伦理规范需要通过学院、系和学科等多个层面的民主讨论与审议来制定。
伦理问题的根源往往不在于作为孤立因素的技术本身，而在于技术与既有结构性不平等之间的相互作用。
因此，大学和学术共同体应将生成式人工智能的出现视为审视和改进自身结构性问题的契机，而不仅仅着眼于防范或拒斥其潜在风险。
参考文献：
Berg, C. (2023). The case for generative AI in scholarly practice. *Available at SSRN 4407587*.
Dabić, M., Maley, J. F., Švarc, J., & Poček, J. (2023). Future of digital work: Challenges for sustainable human resources management. *Journal of Innovation & Knowledge*, *8*(2), 100353.
Intelligence, N. M. (2022). Much to discuss in AI ethics. *Nat Mach Intell*, *4*, 1055-1056.
Jeon, J., Kim, L., & Park, J. (2025). The ethics of generative AI in social science research: A qualitative approach for institutionally grounded AI research ethics. *Technology in Society*, *81*, 102836.
Lin, Z. (2023). Why and how to embrace AI such as ChatGPT in your academic life. *Royal Society Open Science*, *10*(8), 230658.
Lund, B. D., & Wang, T. (2023). Chatting about ChatGPT: how may AI and GPT impact academia and libraries?. *Library hi tech news*, *40*(3), 26-29.
Porsdam Mann, S., Earp, B. D., Møller, N., Vynn, S., & Savulescu, J. (2023). AUTOGEN: A personalized large language model for academic enhancement - Ethics and proof of principle. *The American Journal of Bioethics*, *23*(10), 28-41.
Schlagwein, D., & Willcocks, L. (2023). ‘ChatGPT et al.’: The ethics of using (generative) artificial intelligence in research and science. *Journal of Information Technology*, *38*(3), 232-238.
留言