何时信任机器？算法厌恶与学术研究中的 AI 治理

6月30日

欢迎阅读本周的人工智能重塑科研动态速览，内容精选自 Nature、Science 以及商学与社会科学领域的顶级期刊。

算法厌恶并非全有或全无：抵触具有不对称性

十年来，“算法厌恶”（algorithm aversion）一直是解释好模型为何被束之高阁的最常被引用的理由之一：通常的说法是，人们一旦得知建议出自机器，便不再信任它。Saunak Basu、Alan R. Dennis、Aravinda Garimella 和 Wencui Han 在 Information Systems Research 上发表的新论文，对这幅过于整齐的图景提出了修正。在金融科技投资情境下开展的四项研究（两项随机对照实验、一项实地研究和一项质性访谈研究）中，他们发现对 AI 建议的抵触是不对称的：决定因素在于建议的实际内容，而非建议出自算法这一事实。

其机制与投资判断的方式有关。有些信号是显性的、可编码的；另一些则依赖于人类专家认为机器无法完全触及的隐性经验判断。当 AI 建议与专家的判断一致时，建议很容易被吸收；当建议与这种隐性判断相悖，即告诉专家其直觉有误时，接受度随之下降。换言之，抵触情绪恰恰集中在 AI 最有可能提供全新的、反直觉信息的情形，而非出于对算法的一概怀疑。对于任何设计决策支持系统的人而言，这一发现远比“人们不信任算法”这类笼统结论更可操作。

**为何重要：** 对于研究人机协作的学者，以及营销、金融与运营领域中日益部署算法建议的研究者来说，其启示在于：采纳与否取决于任务的结构，而非某种名为“厌恶”的固定人格特质。最有价值的 AI 建议，恰恰是那些与专家直觉相悖的建议，也是人类最倾向于拒绝的建议。针对这种不对称性进行设计，例如呈现模型所依据的隐性线索、校准模型何时应当提出异议，可能比让模型的准确率再提高一点更为重要。

本周更多动态

同行评审中 AI 应用的治理蓝图

Zhenhui Jiang 在 Management Science 的一篇评论中回应了“以毒攻毒”、将 AI 引入同行评审的提议。他指出，AI 实际上早已非正式地进入评审流程，真正的工作是从无人管理的“影子 AI”转向受治理的、透明的使用。文章勾勒了负责任的 AI 辅助评审可能的样子，这一问题与向各主要期刊投稿或为其审稿的每位学者直接相关。

[阅读 Management Science 原文（6月26日）→](https://doi.org/10.1287/mnsc.2026.02442)

回归变量来自机器学习时的稳健推断

实证研究者越来越多地先训练模型预测某个变量，再将预测值当作观测值放入回归，这种捷径可能悄然扭曲统计推断。Gordon Burtch、Edward McFowland、Mochen Yang 和 Gediminas Adomavičius 提出 EnsembleIV，一种从集成学习器中构造工具变量的方法，能够在回归变量由机器学习生成时恢复有效的统计检验。对于日益增多的从文本、图像或其他非结构化数据中提取测量指标的研究而言，这是一个实用的工具。

[阅读 Management Science 原文（6月19日）→](https://doi.org/10.1287/mnsc.2024.08999)

建模 AI 时代的学术就业市场

随着 AI 改变科研能力的展示与筛选方式，进入学术界的路径也在发生变化。这篇 Research Policy 论文构建了 AI 影响下博士前阶段的学术劳动力市场博弈论模型，考察当“硅基”因素进入画面时，希望与高成本信号如何相互作用。对于许多正在经历这一劳动力市场的青年研究者而言，这是一个具有概念价值的分析视角。

[阅读 Research Policy 原文（6月25日）→](https://doi.org/10.1016/j.respol.2026.105568)

重新思考自主 AI 的治理方式

当机器在无人介入的情况下行动时，人们便暴露于新的风险之中。商业伦理领域的主流回应，即“道德机器”论题，主张自主系统应模仿道德上正确的人类决策，监管也应循此展开；Elsa Kugelberg 和 Henrik D. Kugelberg 在这篇 Journal of Business Ethics 文章中对这一论题提出质疑。他们主张一种更依赖具体实践情境的 AI 治理观，这对企业和监管者如何界定问责具有直接含义。

[阅读 Journal of Business Ethics 原文（6月22日）→](https://doi.org/10.1007/s10551-026-06377-7)

滚动追踪：观察选择过程的一扇窗

Ilkka Leppänen 在 Management Science 中提出“滚动追踪”（scroll tracking），一种过程追踪方法，利用响应式移动网页上的触屏滚动行为，在决策展开的过程中以像素与毫秒为单位记录反应曲线。作为实验室眼动追踪的自然情境替代方案，它为消费者与决策研究者提供了一种低摩擦方式，用以研究人们实际使用的设备上偏好选择背后的即时认知过程。

[阅读 Management Science 原文（5月26日）→](https://doi.org/10.1287/mnsc.2024.06264)

本周内容到此为止。欢迎将本文转发给正在权衡是否信任模型的同行，也欢迎访问 gaiforresearch.com，探索适用于您自身研究的 AI 工具。

AI 科研动态速览