科研中的人工智能：机器产出的成果，你还能核查吗？
Image: "Microscopy Lab Tour at the Colorado School of Mines - 8905720941" by SparkFunElectronics (CC BY 2.0) via Wikimedia Commons, recoloured.
欢迎阅读本周的人工智能重塑科研动态速览，内容精选自 Nature、Science、PNAS 以及商业和社会科学领域的顶级期刊。
溯源与可质疑性：我们还能核查人工智能产出的科学成果吗？
在 Science 的一篇新文章中，Christoph Trattner 指出，人工智能正在科学研究中“向上游移动”。除 AlphaFold 等工具之外，智能体系统如今已能够检索文献、提出假设、编写并运行代码、解读结果，并将从构想到论文的大部分流程自动化。他认为，更深层的转变在于由谁（或由什么）来决定提出哪些问题、呈现哪些证据、保留哪些备选方案。随着机器智能成为科学认识基础设施的一部分，即便研究者并未构建、拥有或运营某一系统，他们也必须能够质疑观点和证据是如何形成某项论断的。
本周的两则新闻展示了这一问题在实践中的样貌。Google DeepMind 的研究人员在 Nature 上报道了 SynthIDBio，该技术可在人工智能设计的蛋白质序列和结构中嵌入隐藏水印，同时保持其功能：带水印的蛋白质结合物与未加水印者具有相当的结合亲和力，且检测准确率接近完美。不过，正如 Nature 的新闻报道所指出的，只要将蛋白质再经过另一款设计工具处理，水印便可被抹除，因此它只是溯源的一个层面，并不能提供保证。与此同时，尼康 Small World in Motion 竞赛的获奖视频遭到了显微镜学者的批评，他们认为视频中呈现的结构在生物学上不可信。主办方随后补充说明，后期处理中使用了一个“无监督”人工智能模型；创作者则表示，人工智能仅用于区分结构并为其着色，并未生成纤毛或其运动。正如一位研究人员对 Nature 所言，科学图像“就是数据”。
为何重要： 对社会科学和商业研究者而言，这一教训的适用范围远不止生物学。只要在数据与论断之间存在人工智能环节，例如由大语言模型编码的访谈文本、经人工智能清洗的问卷回答、合成刺激材料或模型生成的图表，审稿人和读者就需要能够看到并质疑这一环节。请披露人工智能在研究流程中介入的位置，保留原始输入，并将“由模型完成”视为一种必须记录在案、可供质疑的研究方法，而不应把它当作黑箱。
本周更多动态
AlphaEvolve 与 Terence Tao 合作攻克 67 道数学问题
Bogdan Georgiev、Javier Gómez-Serrano、Terence Tao 和 Adam Zsolt Wagner 使用 AlphaEvolve（一种将大语言模型与自动评估相结合的演化式编码智能体）处理了分析、组合数学、几何和数论领域的 67 道问题。在大多数情况下，它重新找到了已知的最优解，在若干问题上改进了已有结果，有时还能将仅适用于有限个输入的结果推广为适用于所有输入的公式。其关键设计在于自动评估器：每一项提议都会经过检验，而这种可验证性恰恰是大多数研究领域所缺乏的。
大规模田野实验显示：生成式搜索提高了购买量
Shuang Zheng 及其合作者在中国大型平台美团上开展了一项大规模田野实验，比较生成式搜索（在常规结果之前展示人工智能生成的回答）与关键词搜索。生成式搜索显著提高了购买量，带来了更有效、更多样的搜索查询，减少了探索性浏览，并使用户的评估更集中于相关品类和商家。对营销研究者而言，这项研究使搜索中一个此前难以观察的环节，即把需求转化为关键词的过程，得以在实证上被观测。
人工智能能否加速创新？32 位研究者的看法
John Nelson 及其同事基于对 32 位具有人工智能/机器学习使用经验的美国学术界制造与材料科学研究者的访谈发现，人工智能主要用于材料和工艺建模，使设计空间的搜索更便宜、更快速。然而，这些工具在数据丰富区域之外并不可靠，需要熟练使用并与传统技术相结合，还引发了人们对绕过颠覆性理论突破的担忧。作者认为，只要传统研究继续获得资助，人们便有理由对渐进式创新保持乐观。
“认知迷恋”：人工智能招聘项目为何不断扩张
Elmira van den Broek 和 Natalia Levina 用三年时间跟踪了一个引入人工智能进行候选人筛选的人力资源部门。数据化的范围远远超出了该技术最初的应用边界，作者用认知迷恋（epistemic enchantment）来解释这一现象：组织成员被人工智能所承诺的预测性、客观性和持续改进的洞见所吸引，而忽视了其成本与风险。“理想数据”成为一个始终被追求却从未实现的目标。对于任何研究或推动人工智能采纳的人来说，这都是一个有用的概念。
本周内容到此结束。欢迎转发给正在思考如何披露其研究流程中人工智能使用情况的同事，也欢迎访问 gaiforresearch.com，探索适用于您自身研究的人工智能工具。
留言