科研中的 AI：你的智能体相信你喂给它的任何东西

7月20日

更新：7月27日

欢迎阅读本周的人工智能重塑科研动态速览，内容精选自 Nature、Science 以及各领域顶级期刊。

智能化科研真正的薄弱环节：你允许智能体读什么

本周最令人不安的结果同时也是最简单的。据 [Nature](https://www.nature.com/articles/d41586-026-02071-w) 报道，研究人员下载了五个争议议题上的公开数据集，对其加以改动，使统计趋势的方向和强度发生变化，再将改动后的版本上传至私有仓库。随后，他们让 Anthropic、OpenAI 和 Google 构建的 AI 智能体同时访问公开仓库与被篡改的仓库，并要求其依据数据回答问题。平均而言，大约有一半的情况下，智能体轻信了被操纵的数据集，得出了"欺诈者"想要的结论。（该研究为预印本，尚未经同行评审。）

将这一结果与另外两项进展放在一起读，一个模式浮出水面：AI 辅助科研的压力点正从*生成*转向*验证*。在首尔举行的 [ICML 2026](https://www.techtimes.com/articles/319684/20260704/icml-2026-opens-monday-seoul-agentic-ai-tops-record-year-peer-review-strains.htm) 上，创纪录的 23,918 篇投稿撞上了因 AI 使用而不堪重负的评审流程：基于水印的检测标记了 398 名违反政策的审稿人，并引发了 497 次直接拒稿；而正如组织者所承认的，水印只能逮住最粗心的违规者。与此同时，在 [Academy of Management Review](https://doi.org/10.5465/amr.2024.0538) 上，一项新的多层理论指出：在知识密集型团队中，熟练使用生成式 AI 的成员会越来越多地把模型提供的内容视为与同事提供的内容功能等价，无论是信息、建议还是反馈，并转而把问题抛给机器。那些曾经*构成*团队质量控制系统的协作互动，正在悄然变稀薄。

**为何重要：** 这几件事讲的都是同一种检查的处境：它曾经是默认存在的，如今成了可选项。人类分析师若偶然遇到一个便利得可疑的数据集，会追问它从何而来；拥有仓库访问权限的智能体往往不会。向资深同事请教的初级研究者，得到的除了答案还有审视；向聊天机器人请教的初级研究者，得到的只有毫无摩擦的流畅。这些观察没有一条构成反对在科研中使用 AI 的理由，它们主张的是把来源追溯和验证从副产品变成明确的任务。具体做法包括：书面记录你的智能体可以访问哪些数据集以及每个数据集的来源；将任何无法重构其来源的 AI 中介结果视为未经验证；并且有意识地保留你的团队曾经免费获得的人工评审环节。

本周更多动态

被篡改的数据集骗过了前沿 AI 智能体，成功率约为一半

研究人员改动了五个争议议题上的公开数据集，以改变统计趋势的方向和强度，将其上传至私有仓库，并让 Anthropic、OpenAI 和 Google 的智能体在真实公开数据之外一并访问这些数据。平均而言，约有一半的时间智能体采纳了被篡改的数据，并得出了操纵者想要的结论。作者警告说，被"投毒"的信息会削弱任何自主分析数据的工具的可靠性；该研究为预印本，尚未经同行评审。

[阅读 Nature 原文（7月15日）→](https://www.nature.com/articles/d41586-026-02071-w)

知识密集型团队内部的生成式 AI 困境

在知识密集型团队中，协作历来是成员获取与任务相关的信息、建议和反馈的主要渠道。这篇发表于 Academy of Management Review 的新理论论文指出，生成式 AI 恰好为这些资源提供了另一个来源，熟练使用它的成员更容易把模型所提供的视为与队友所提供的功能等价。由此得到的多层模型，对任何正在经历这波采用浪潮的实验室或研究团队而言，都是一面敏锐的透镜。

[阅读 Academy of Management Review 原文（7月17日）→](https://doi.org/10.5465/amr.2024.0538)

ICML 的创纪录之年，暴露出同行评审的紧张

ICML 2026 在首尔开幕，投稿量达到创纪录的 23,918 篇，约为前一年的两倍。基于水印的检测识别出 398 名违反会议大语言模型政策的审稿人，导致 497 次直接拒稿。组织者承认该方法只能逮住最不谨慎的使用者，因此评审中实际的大语言模型使用量可能高出许多，这是摆在每个高投稿量领域面前的评审容量问题的预演。

[阅读 Tech Times 原文（7月4日）→](https://www.techtimes.com/articles/319684/20260704/icml-2026-opens-monday-seoul-agentic-ai-tops-record-year-peer-review-strains.htm)

复杂问题让新颖性科研获得回报

这篇发表于 Research Policy 的论文基于 NK 框架提出问题复杂度的测量，即一项研究必须协调的各要素之间的相互依赖程度，并考察它如何调节新颖性的回报。处理更复杂问题的新颖研究，实现高影响力的可能性显著更高，得到极低引用的可能性更低，获得认可的时点更早，跨领域引用也更广。对于"新颖性本身即高风险赌注"的假设，这是一剂有用的纠正。

[阅读 Research Policy 原文（7月1日）→](https://doi.org/10.1016/j.respol.2026.105570)

能用语言解释自己的推荐系统

平台推荐改善了匹配，但用户和管理者出了名地难以解读。Information Systems Research 提出的 MG-GAT 将多个网络与属性数据相结合，同时追踪哪些邻居和特征影响了每一条推荐，进而用同样的证据生成解释。这一设计要点对任何研究可解释性的人都很关键：其自然语言解释扎根于模型参数，而非事后补写。

[阅读 Information Systems Research 原文（7月15日）→](https://doi.org/10.1287/isre.2023.0549)

生成式 AI 走进精准心理治疗

Nicholas C. Jacobson 在 Science 上撰文提出，生成式人工智能可以规模化精准的、以证据为基础的心理治疗，以人类临床医生无法企及的覆盖面提供结构化的治疗方案。对社会科学研究者而言，这是 AI 从研究工具跨入干预手段的鲜活案例，随这一跨越而来的是测量、伦理与试验设计的全部问题。

[阅读 Science 原文（7月16日）→](https://doi.org/10.1126/science.aeh4808)

本周内容到此为止。欢迎将本文转发给已经让 AI 智能体访问数据仓库的同行，也欢迎访问 gaiforresearch.com，探索适用于您自身研究的 AI 工具。

AI 科研动态速览