科研中的人工智能：机器生成的证明与信任难题
Image via Wikimedia Commons.jpg) (public domain).
欢迎阅读本周的人工智能重塑科研动态速览，内容精选自 Nature、Science、PNAS 以及顶级商业期刊。
人工智能正在攻克前沿数学，悬而未决的是验证问题
数学已成为人工智能驱动发现的试验场，本周有三篇文章同时展现了其前景与问题。Yichen Huang 在 PNAS 上的论文以 OpenAI 对 Erdős 单位距离猜想的否证为出发点。他指出，这一里程碑依赖于一个内部模型，且测试时计算量未予披露，因此无法被独立复现。作为回应，他基于公开可用的 GPT-5.5 Pro 构建了一个刻意保持简单的自主智能体，采用与具体问题无关的三阶段提示流程：头脑风暴、执行、复核。在关闭网络搜索的八次独立试验中，每一次运行都给出了正确或基本正确的否证；这些证明各不相同，并非对此前人工智能输出的复制；每次试验平均消耗约 10.7 万个推理词元。由于该模型的发布时间比 OpenAI 公布其结果早了近一个月，这项检验避免了数据污染问题。代码和全部输出均已公开。
这种开放性之所以重要，是因为发展速度已经超过了核查能力。一篇 Science 新闻特稿报道称，随着人工智能公司接连推出数学突破，其证明核查系统正受到审视。在同期的 Science 社论中，主编 H. Holden Thorp 描述了这一规模：OpenAI 宣布了纳维-斯托克斯方程千禧年大奖难题的一个潜在解，该解由一大批人工智能智能体耗费数百万美元的算力得出；数周之后，又出现了涉及 372 个问题族的 722 篇稿件，以及在 Science 上发表的 DeepMind 数学系统的解答。Thorp 的追问超越了数学本身：理解带来的满足感，能否取代发现带来的激动？
为何重要：同样的模式正在走向每一个领域。当人工智能产出结果的速度快于人类核验的速度时，可信度便转向那些让工作可复现的人：公开的模型、披露的算力、公开的代码与输出。Huang 的论文同样为使用大语言模型的社会科学家提供了范本。请报告模型版本、提示流程、运行次数及成功频率，并共享对话记录，让他人能够核查，而不必仅凭信任。
本周更多内容
修正与人类不符的大语言模型"硅基样本"
大语言模型越来越多地被用于测量人类的偏好和观点，但其回答可能与真实受访者存在偏差。Yan Leng、Yunxin Sang 和 Ashish Agarwal 提出了人类模仿校准（HuMCal），这是一种事后的、与模型无关的方法，利用汇总的人类基准数据，学习如何对来自不同提示、角色设定和模型检查点的大语言模型输出进行加权。在消费者交易数据和公众舆论调查中的应用表明，该方法优于标准的聚合规则，且校准后的权重往往在不同时间、地域、行业和问题类别之间依然有效。这与任何尝试使用合成受访者的研究者都直接相关。
人工智能造成损害时谁来担责？追溯目标函数
Martin Hilbert 观察到，美国早期的诉讼正通过产品责任法和代理法追究人工智能公司的责任，而《通信规范法》第 230 条和第一修正案的抗辩开始出现裂痕。他认为，这些途径共享一项植根于机器学习运作方式的原则：每个系统都始于一个由人类设定的目标函数，并在训练数据、部署和监督中叠加了更多层次的人类刻意意图。由此，问责就成为一个可处理的法律问题：追溯设计决策，评估每个行为者的意图和可预见性，并分配责任，而无需赋予人工智能法律人格或言论权利。他还指出了四个尚存的空白，从"多手问题"到仅在部署后才显现的损害。
"智能循环"：为什么有些人工智能智能体会在工作中变得更聪明
Yong Li、Ming Zeng 和 Alexis Li 提出了数据网络效应在供给侧的对应机制：委托使用人工智能智能体会产生运营经验，这些经验可以转化为未来的能力，而能力又反过来维持使用。只有当智能体跨过某一工作流程的"最低可行智能"门槛时，这一循环才会启动；即便如此，它也可能衰退、保持稳定或加速。其启示在于：竞争优势可能更多取决于这一循环，而非装机基础；生产能力可能超越专家人数的增长；为加速扩张而削减评估或监督，可能在短期内提升产出，却会削弱这一循环。
可解释人工智能加入鉴别伦勃朗真迹的行列
Andrés Arias-Rosales、Arthur K. Wheelock、J. Kenneth Moritz 和 Philip R. LeDuc 提出了一种可解释人工智能方法，旨在辅助而非取代鉴定专家进行画作归属判定。在高置信度情况下，该方法的召回率最高可达 97.9%，准确率达 95.8%；它会突出显示驱动每项判断的图像区域，并经过校准以避免过度自信。训练集刻意纳入了风格相近的画家，例如大师的学生和老师。对于任何建立在专家判断之上的领域，这都是人机协作的一个有益范例。
从网站文本绘制上市与非上市竞争对手图谱
Gerard Hoberg、Craig A. Knoblock、Gordon M. Phillips 和 Jay Pujara 将表征学习应用于公司网站内容，聚焦于特定行业的产品和服务，从而把上市公司和非上市公司置于同一个嵌入空间中。其成果是一个同业竞争者网络，可用于分析企业间互动和市场演变，并将基于文本的行业分类扩展到不发布公开披露信息的企业。对于需要为非上市公司构建竞争者集合的战略与营销研究者而言，这是一种现成可用的方法。
本周内容就到这里。欢迎转发给仍在往 ChatGPT 里复制粘贴的同事，也欢迎访问 gaiforresearch.com，探索可用于你自己研究的人工智能工具。
留言