《早熟收敛:人工智能、科学共同体与探索能力的停滞》
正文 v0.4|逐句删修稿|资料截止日期:2026-07-16序言 一条道路上的突破,和科学是否拥有更多道路
正文 v0.4|资料截止日期:2026-07-16
2026 年,一份关于循环双覆盖猜想的数学证明文档在网上公开。这个猜想问:一个没有桥的图,是否总能找到若干个环,使每条边恰好被覆盖两次。发布机构称,证明由其模型完成。截至本书资料截止日,它还没有经过独立同行评议,数学共同体也没有给出最后判断。这里不把它当作已经成立的定理,只把它当作一场值得观察的科研行动。[AI-022]
和证明一起公开的工作提示,更像一张实验室任务表:把问题拆开,让若干子智能体走不同路线;安排一些子智能体寻找反例;交叉检查中间结论;遇到障碍时另起一条路。[AI-023]
设计者为什么要反复要求路线分开?因为计算主体增加,不等于探索路线增加。几十个子智能体可以同时工作,也可以在相近的表示、训练资料和评价习惯中,反复走向同一个地方。
若证明最终通过检验,它会是一项重要成就。若证明有漏洞,我们仍然看见了一种新型研究组织:人类规定任务、设置分工和批评程序,机器持续构造候选,形式规则承担末端核验。
这种组织适合问题已经说清、答案可以检查、中间结果能够迅速反馈的任务。数学证明具备这些条件,蛋白质结构预测也具备其中的大部分。
二十世纪后半叶,结构生物学家投入大量时间测定蛋白质的三维结构。AlphaFold2 在 2020 年的 CASP 盲测中取得突破,随后发表的系统把许多预测推进到实验研究可直接使用的精度。AlphaFold3 又把预测扩展到更复杂的生物分子相互作用。[AI-002;AI-003]
公开结构数据库把海量预测交到研究者手里,许多实验室可以从一个具体结构假设出发,而不必总从漫长的结构测定开始。与被忽视热带病和抗菌素耐药性有关的蛋白质组被定向加入数据库,相关药物研发机构也记录了实际使用。[AI-007—AI-010] 对资源有限的团队,这种开放改变了研究起点。
数学证明与结构预测有一个共同点:共同体早已把问题说清,也建立了评价答案的办法。机器在既定空间里搜索,做到了过去做不到的速度和规模。本书把这种能力称为局部解题能力。“局部”不是贬义。科学的大部分工作,都由一个又一个局部问题组成。
科学还有另一种能力:把原来不被当作问题的现象辨认出来;发明新的测量办法;让竞争理论都存活到足以接受检验;在主流方法失败时,不必从零恢复另一套设备、技能和概念;允许少数人追问暂时没有好评价器的问题。
2026 年的一项预印本让五种科研智能体框架与五种大语言模型大量生成研究想法,累计运行二十多万次,覆盖十二个学科和一百五十多个研究区域。研究者不判断每个想法最终是否正确,而是看它们在语义空间里怎样分布。报告称,机器生成的候选比人类论文呈现出更强的集中。[AI-024]
这项研究有明显边界。文本中的语义距离不等于理论差异,候选也未必进入实验室;集中还可能是合理分工。它至少说明:机器能生成多少想法,与这些想法覆盖多少条实质路线,是两件事。
本书的问题因此不是一个模型会不会做科学家的工作,而是:当模型、数据库、自动实验平台、检索系统和评审程序一起进入科学共同体以后,这个共同体能否维持足够多的认识路线?
这里把科学共同体理解为一个分布式认识系统。系统里有人,也有机器;有论文和数据库,也有实验设备、评审制度与商业平台。一个结论能否出现,不只取决于研究者是否聪明,还取决于什么问题容易被检索,什么假设能得到算力,什么失败会留下记录,什么方法能进入评审,什么技能仍有人传授。
全书的研究假设是:
人工智能可能提高科学共同体的局部解题能力,同时削弱整体探索能力的若干方面。
本书主要观察三项:研究路线组合的宽度;不同判断的错误来源是否真正分开;主流路线失败以后,替代方法能否以可承受的成本恢复。它们合在一起,构成这里所说的整体探索能力。
AI 也可能降低文献、计算和实验门槛,使小型团队能够检验过去无力触及的问题;保存失败实验;促进方法跨领域流动;让非主流路线摆脱人力瓶颈。如果长期证据显示,采用 AI 的领域不仅产出增加,实质研究路线也持续扩展,那么中心命题就应当收窄,甚至放弃。
科学在 AI 到来以前就存在趋同压力。论文要适合期刊,项目要适合资助,青年研究者要在有限期限内取得可见成果。AI 可能创造新的集中,也可能只是加速或固化既有制度。
“早熟收敛”也不是说共同体永远不该收敛。多条路线经过充分比较以后,资源集中于表现较好的路线,通常是科学学习的结果。问题发生在探索尚未充分时:少数路线先占据数据、设备、评价标准和职业机会,其他路线失去继续发展的条件;等到主流路线暴露局限,替代办法已难以重启。
本书不做原创的大规模科学计量研究,而是系统整理已有研究,并区分三种证据状态:直接事实、案例支持的机制线索、仍待长期观察的预测。同一种 AI 技术进入不同认识任务,可能产生相反结果;任何单一案例都不能替全书命题作答。
科学正在获得前所未有的行进速度,我们却还缺少判断道路是否变少的仪器。速度已经能够测量,路线往往只能事后回望。两者之间的迟滞,正是现在需要讨论的地方。第一章 三种科学进步
正文 v0.4|资料截止日期:2026-07-16一段不断改写的程序
FunSearch 的工作方式并不复杂。研究者先写出评价函数,规定什么样的程序更好;大语言模型生成候选程序;计算机执行并打分;高分程序进入下一轮改写。循环持续到候选不再改进,或研究者决定停止。[AI-019]
系统在帽子集问题上找到比当时已知构造更好的结果,也为若干装箱问题得到新的启发式。关键不只是模型会写代码,而是每次生成后都有可靠、快速的反馈。评价函数把“更好”压缩成可以执行的判断。
困难在于,“进步”把几件不同的事揉在了一起:旧问题被解得更好;一项研究产生此前没有的新构造;共同体开辟新的问题和方法。三者常常相伴,却不必同时发生。
为了讨论 AI,本书把它们暂时分成:解题的进步、纲领的进步、探索的进步。这是一种分析重构,三者关心的尺度不同。解题的进步
库恩描述常规科学时,并非贬低日常研究。成熟共同体之所以能高产,正因为成员不必在每个实验前重新争论世界的基本构成。范式提供一套范例:哪些对象值得研究,什么仪器可信,什么样的解答算完成。科学家在这些约束中解决谜题。[PH-001;PH-002]
这种保守性使知识能够累积。测量值不符合预期时,研究者通常先检查仪器、样品、统计过程和理论推导,而不是立刻重写基础理论。
AI 的许多成功落在这种结构里。蛋白质结构预测已有明确输入和盲测标准;奥林匹克几何题有题面和严格答案;材料筛选有稳定性估计和目标函数;形式证明可以交给证明器核验。机器面对的不是一团未分化的自然,而是共同体加工过的问题空间。
长期猜想的证明、新材料候选、复杂分子的结构,都可能改变整个领域的工作日程。这里的“局部”,只表示问题与标准已大体给定,不表示成果影响小。
这种进步也最容易评价。预测误差可以计算,定理可以核验,程序性能可以比较。评价器越清楚,机器越容易进行大规模试错;成功标准越含混、反馈越昂贵,单纯增加生成速度的收益越有限。一个证明怎样变成知识
数学案例能显示第二种进步。形式证明器保证推导符合规则,程序搜索则能在巨大候选空间中寻找构造。若数学家从候选中辨认出可概括的原则,原本只在机器循环里有效的对象才进入可传授的知识。
这个转化不会自动发生。一个极长的证明可以完全正确,却难以说明为什么定理成立;一个高性能程序可以刷新已知界,却只对特定实例有效。数学家会压缩证明、寻找引理、改写定义,并比较不同证明揭示了什么结构。这里的理解,是让结果能够迁移到别的问题。
机器也可能参与这种转化:比较证明、寻找更短的中间命题、构造反例、提出对象分类。拉卡托斯在《证明与反驳》中描述的概念变化,正是在反例与修订之间发生的。[PH-005] 若机器提出迫使定义重写的反例,它的贡献便越过了单纯的既定搜索。现有成功已触及这条边界,但还不能一般化为“机器会自主建立数学纲领”。
判断这种进步,不能只看是否出现新对象。还要看结果能否产生新的可检验关系、组织后续工作,并让研究者学会原来不会做的事。纲领的进步
拉卡托斯关心一个研究纲领怎样发展,才不只是用补丁保护自己。他区分“硬核”与“保护带”。面对反例,研究者可以调整辅助假设;调整若带来新的预测或发现,纲领是进步的;若总在事实出现后补救,却不再产生新的认识内容,纲领趋于退化。[PH-003]
FunSearch 不只是把一个数值调高。它找到的程序结构可被数学家阅读和概括,转化为新的构造知识,因此接近纲领进步。可是,评价器仍由研究者提供,问题仍由研究者选定。系统没有决定帽子集为何重要,也没有规定什么构造具有解释力。
AI 对纲领进步的贡献,取决于反馈能否识别真正的新内容。组合数学中的某些构造质量可以准确计算;药物机制、生态系统或复杂疾病中的“新颖”,却很难压成单一数值。机器可以生成大量候选,共同体仍要判断哪些候选值得形成持续研究。
因此,不能把“是否改变范式”当作评价 AI 的唯一尺度。更实际的问题是:机器产出能否形成新的对象、实验关系和可检验预测,能否让后续研究继续推进,而不只是得到一次性的高分答案。探索的进步
前两种进步可以在一条路线内部发生。第三种进步要换到共同体尺度。基彻研究认知劳动分工时指出,个体理性与共同体理性并不总是一致。对单个研究者来说,追随当前最成功的理论通常更安全;若所有人都作同一选择,主流理论失败时,共同体便没有成熟的替代路线。[PH-012;PH-013]
认识景观模型把这个问题画成一片有高峰和低谷的地形。研究者从不同位置出发,向附近看起来更高的地方移动。沟通太快,所有人可能追随最早发现的小高峰;沟通较慢,一些人留在别处,反而更可能找到更高的峰。[SS-002;SS-006—SS-008] 模型不能直接规定真实科学应保持多少分歧,却说明更快的一致未必带来更好的长期结果。
探索进步至少包括:提出新问题;让不同理论和方法并存到足以接受检验;使异常有机会被看作框架问题;在主流路线失败后转向另一套实践。
不同路线的价值,也不只在于“总有一条会赢”。它们可能使用不同分类、关注不同尺度、要求不同解释,使主流方法看不到的现象显现。[PH-015—PH-020]
探索有成本。设备、人员和资金有限,不可能无限保存每条路线。因而,多样性不是脱离任务的绝对善。需要保护的是能分离错误来源、扩展可见现象或保留恢复能力的差异,而不是名义上的重复。三种进步怎样错位
一个领域可以解题越来越快,研究纲领却越来越依赖同一评价器;也可以在主流纲领内产生大量新结果,替代纲领却因缺乏资源而消失。论文、预测和实验数量上升,不能直接推出探索能力上升。
反过来,共同体为了保留多条路线,短期效率可能下降。相似实验由不同方法重复,少数团队研究当下看不到回报的问题,设备维护费花在低使用率技术上。从长期看,这些安排可能是一种保险;是否值得,取决于主流路线失败的风险和替代路线恢复的难度。
AI 最直接增加搜索能力。它使给定空间内更多候选被尝试,让文献、代码和实验反馈更快进入下一轮。在少数领域,机器也已展示纲领层面的进步。共同体探索的方向则尚不清楚:AI 降低成本,可能让边缘问题获得资源;相似模型和数据库广泛采用,也可能使问题与评价趋同。
A-Lab 的材料合成说明这种错位。机器人在十七天内执行数百个配方,局部实验能力显著提高;失败反馈还形成了新的操作知识。但目标来自上游数据库,成功以指定相是否出现来判断。实验次数不能替共同体探索作答。
AlphaFold 同样既扩散能力,也可能统一起点。大量团队从同一个预测数据库出发,并不等于它们会提出相同问题;但起点趋同仍是需要观察的事实。
三种进步不是等级表。区分它们,只是为了防止一个尺度上的突出成绩替其他尺度作答。什么叫早熟
“早熟收敛”不是意见一致,也不是某种方法流行。它要求三个条件。
第一,存在尚未得到充分探索的替代路线。这里的“充分”不能用统一时长规定,要看路线是否获得过基本资源和形成可检验结果的机会。
第二,资源和权威在探索完成以前就集中。集中可以发生在资助、人才、设备、数据、模型、期刊和评价标准上,也可能由许多个体的合理选择共同造成。
第三,集中提高了替代路线的存续或恢复成本。某种方法暂时少用,但设备、训练和资料仍在,风险有限;若掌握它的人、仪器和课程一起消失,重新启动就不只是下载旧论文。
充分比较后的集中不是早熟;一种明显劣势的方法被淘汰,也不自动是早熟。真正需要观察的是,退出是否在证据不足时变得不可逆。反方怎样改变命题
关于 AI,最有力的反方是:现有证据支持不了一个宽泛判断。
一项研究发现,科研智能体生成的候选方向更集中;另一项研究报告,语言模型提出的研究想法在专家新颖性评分上可以不低于人类,尽管可行性和评估一致性仍有问题。[AI-024;AI-026,均需按版本状态核验] 前者看集合分布,后者看单个候选评分。它们不能互相取消,却足以否定“机器想法普遍不新颖”这样的说法。
人类共同体本来就偏好保守策略,高风险路线稀少,却可能带来较大回报。[SS-019] 因而,未来若观察到趋同,必须区分 AI 是原因、加速器,还是被放在已有坡度上的工具。
经过这些限制,本书采用一个较窄的中心命题:
AI 可能在提高局部解题能力的同时,降低科学探索的三个维度:路线组合的宽度、判断错误来源的分离程度,以及主流路线失败后的恢复能力。
接下来先处理第二个维度:当一千个智能体给出相同答案时,我们究竟得到了多少份证据?第二章 一千个 Agent,有多少种思想
正文 v0.4|资料截止日期:2026-07-16会议室里的二十个声音
设想一次论文评审。二十位评审者分别阅读稿件,十九人认为方法可靠,一人反对。通常,我们会把十九比一当作很强的信号。这个判断隐含一个条件:十九人的错误不是从同一处来的。
若二十位评审者都从同一份错误摘要了解实验,或都使用同一个有缺陷的统计脚本,他们的意见就不能按二十份独立证据计算。人数仍然是二十,新增信息却可能很少。
多 Agent 科研系统把这个老问题变得具体。系统可以设置“假设提出者”“实验设计者”“反对者”“审稿人”等角色。角色名、提示词和输出都有差别;若它们共享同一基础模型、检索库、工具链和评价器,这些分歧可能只是同一表示空间里的不同采样。
循环双覆盖证明提示词专门要求不同路线与对抗检查,说明工程师已在处理这个问题。[AI-023] 随机采样、上下文隔离和角色分工能够增加候选解法,却不能自动制造独立的认识来源。独立性为什么重要
朗基诺把科学客观性放在共同体的批评过程里。研究者都有背景假设,客观性不要求每个人毫无偏见,而要求批评能从不同位置进入,并真正改变研究。[PH-006;PH-007] 认知劳动分工研究也说明,不同策略并存,可以避免共同体过快追随暂时成功的方向。[PH-012—PH-014]
这些理论不要求意见毫无关联。科学家共享教材、仪器和专业训练,否则共同讨论无从发生。独立性的价值在于,一些重要错误来源被分开了。
两个实验室使用不同样品制备方法,可能分开一类实验偏差;两个模型独立训练于不同数据,可能分开一类数据偏差;一个统计分析与一个物理实验相互支持,分开的错误来源更多;两个 Agent 只在同一模型上换提示词,主要分开的是采样路径。
因此,独立性不宜压成“独立/不独立”两格。更实用的做法,是记录判断在若干维度上的来源:权重谱系、训练资料、架构、工具和数据库、实验方法、概念框架、机构控制、评价标准与人类团队。不同任务需要关注的维度也不同。思想风格不只是一组观点
弗莱克用“思想集体”和“思想风格”说明,科学训练让共同体成员学会看见某些对象、使用某些比较、忽略另一些差异。思想风格既限制认识,也使精细认识成为可能。
把这一概念移到多 Agent 系统,不能简单说“同一模型就是同一种思想”。提示、工具、实验和人类团队都会改变输出。更准确的类比是:共享模型可能提供一层共同的表示习惯——哪些关系容易表达,哪些因果说明显得自然,什么文体像一篇可信论文。
这种共同层不必导致相同结论。它影响的是分歧出现的范围。Agent 可以在同一概念框架中扮演支持者和反对者,却很少质疑框架没有表示的对象。角色辩论可能很尖锐,仍未触及分类方式本身。
机器系统的特殊性在于,共享表示可以被低成本复制到大量角色,并横跨文献、实验设计和评审。需要检查的不是输出是否相同,而是内部争论有多少改变了对象、变量和成功标准。名义上的多元
可用的模型品牌很多,品牌却不等于认识谱系。多个产品可能使用相近架构,训练于大量重叠的公开资料,依赖相同科学数据库,并通过蒸馏或合成数据产生间接继承。少数通用模型正成为大量下游系统的共同基础。[AI-032;IN-027]
共同基础有明显好处:工具接口可以复用,知识可以迁移,小团队不必从头训练。风险出现在共享来源同时承担多个本应制衡的角色时。一个模型生成假设,由其微调得到的模型负责筛选;检索系统优先返回前者生成并被大量引用的文本;评审模型再依据相似偏好判断新颖性。环节很多,来源仍可能很窄。
算法单一文化研究在招聘、匹配等领域展示过相邻机制:多个机构采用相同算法,会使结果相关化,系统性错误不再分散。[AM-001;AM-002] 这些研究不能直接证明科学结论同质化,但说明共享决策规则可能使原本独立的组织暴露于同一偏差。合成共识
本书把一种特定现象称为合成共识:同源或高度相关的判断被反复生成、引用、推荐和评价,最后以远高于其独立来源数量的规模出现。
合成共识不等于错误共识。问题在于共同体可能误判它获得支持的方式。十个同源模型都给出正确答案,说明这一谱系在该任务上稳定;它不等于十条彼此分离的证据路线都指向同一答案。
这种误判会影响资源。看起来“大家都认为值得研究”的方向更容易获得算力和实验机会;看起来“多个系统独立复现”的结果更容易进入数据库;看起来“不同评审都赞同”的论文更容易被接收。名义数量一旦成为制度信号,相关性就会产生累积后果。
判断合成共识,需要知道系统谱系。现实中,论文常只写“使用了大语言模型”,不说明版本、提示、检索资料和用途;平台内部的评审系统甚至只返回一个分数。没有披露,“多模型一致”只能是外观描述。多 Agent 系统实际怎样分工
典型科研 Agent 工作流会检索文献,生成假设,按新颖性或可行性筛选,编写代码或调用实验工具,形成论文,再由评审模块给分。AI Scientist、Agent Laboratory、AI Co-Scientist 等系统实现不同,大体都呈现这种链条。[AI-028—AI-030,版本敏感]
分工的收益是真实的。每个模块可以专注一类任务,运行日志也使错误更容易定位。但分工不会自动消除共同偏差。若假设模块与排序模块从同一基础模型开始,排序可能偏好自己容易生成的结构;若写作与评审共享文体偏好,结果可能越来越适合评价器。
工程上可以用上下文隔离、不同随机种子、相反目标、引用和反例要求来提高内部搜索质量。认识上更强的隔离,则需要不同数据、模型谱系、工具或独立实验。两类隔离都重要,前者不能替代后者。
一个“怀疑者 Agent”若只被要求挑错,常能发现推理跳步;若评价器仍奖励与主流文献一致,它很难让一条短期得分低的路线获得资源。真正的异议不仅要能发言,还要能改变候选池、评价标准或资源分配。一次大规模测量
Tang 与 Yang 改变模型与 Agent 框架,生成大量研究想法,再测量想法间距离。不同配置的候选仍表现出较强集中,说明更换框架和模型品牌没有自动带来与人类研究相同的分布宽度。[AI-024]
这项研究支持“输出多样性不等于认识多样性”,却没有识别集中从哪里来。模型可能共享训练资料,框架可能共享提示范式,领域本身也可能有强热点;候选没有进入实验,也无法判断集中区域是否包含更多高价值想法。
它最有价值的地方,是把“多样”从印象变成分布问题:大规模输出覆盖了多少区域?增加的是措辞、主题,还是方法与概念?人类也不是独立样本
对机器独立性的质疑不能采用双重标准。科学家也读相同教材,使用同一数据库,受到声誉网络和期刊结构影响。更公平的比较是:人类和机器共同体分别有哪些相关来源,哪些机制能够暴露这些相关性。
人类共同体有地域、学科、实验传统和代际差异,也有权威集中、发表偏误和集体盲点。机器共同体可以通过独立训练、不同数据、不同工具、物理实验和人类专家增加外源性,也可能因平台化而把多种任务压到少数模型上。
真正的问题是:新系统加入以后,错误来源是增加了,还是原有差异被吸收进同一基础设施?
差异本身也不保证更好。低质量的独立意见不会因独立而自动重要。独立性必须与可靠性一起看。有效独立共识
共识可以拆成两层。第一层是名义共识:多少人、模型、论文或 Agent 表示赞同。第二层是有效独立共识:在扣除共享错误来源之后,还剩多少彼此分离的支持。
这里不宜追求虚假的精确分数。更可行的是做来源说明:假设由哪个系统提出,实验由谁选择,数据由谁分析,解释由谁撰写,评审使用了什么模型,关键结论是否经过不同方法和物理实验复核。
例如,一个蛋白质功能结论由模型 A 提出、模型 B 重写方案,两个模型共享结构数据库;实验由两个机构分别用冷冻电镜和生化干预完成。模型层独立性有限,物理证据和实验方法却提供了重要分离。反过来,十个模型品牌若分析同一数据、使用同一评测脚本,得到相似结论,只说明结果对部分推理随机性稳定。
训练资料和蒸馏关系未必公开,商业系统还会持续更新。制度不应要求作者证明绝对独立,而应要求报告已知关系和关键工具,未知也不默认成独立。
多 Agent 系统仍能并行搜索、发现局部矛盾、分配工具调用,在一个模型内部扩大候选空间。只是当系统声称通过“辩论”或“投票”获得更强认识保证时,必须说明批评来自何处,哪些错误来源已经被分开。
一千个 Agent 可能是一千次有效尝试,也可能是一种思想的一千次变体。差别不在角色表上,而在训练、数据、方法、实验和评价的实际来源里。第三章 常规科学以机器速度运行
正文 v0.4|资料截止日期:2026-07-16评价器在循环中央
FunSearch 的循环里,大语言模型提出程序,评价器决定哪些候选进入下一轮。模型可以生成出人意料的代码;只要评价器不承认,它就会被淘汰。[AI-019]
自动化科研常有相似结构。数学系统由证明检查器或数值指标裁判;材料发现由稳定性、目标性质和可合成性估计筛选;自动实验室以是否出现目标相、产率或某项性质决定下一次实验;科研 Agent 以基准或代理评审器排序假设。生成端看起来开放,选择端往往较窄。
评价器不是外在障碍。没有它,大规模生成只会制造更大的待审队列。AI 的效率来自提出、执行、反馈、再提出的闭环。反馈越快、越明确,搜索越有效。这也是为什么 AI 首先在形式化程度高、数据充足、结果容易核验的任务上取得突破。
问题由此转向:成功标准由谁制定,它测量了什么,又遗漏了什么?评价器怎样被做出来
评价器看似中立,实际是长期科学实践的压缩。CASP 的结构预测标准来自实验结构、对齐方法和共同体对误差的定义;材料稳定性指标依赖密度泛函理论的近似、数据库表示和对可合成性的经验判断;论文“新颖性”评分则把专家经验、文献相似和期刊传统揉在一起。
评价器要稳定工作,先要固定对象边界。数学程序可以执行,运行时间可以测;晶体相可以由衍射模式比对;药物是否真正改善疾病,则要经历更长链条。越靠近社会、生态和复杂生物系统,单一反馈越难代表成功。
一个领域适合自动闭环,不只是因为模型更强,还因为共同体已经投入大量劳动,使反馈可计算。数据清洗、基准设计、测量标准和失败分类都属于这项工作。
评价器还会因使用而改变。最初用于比较系统的基准,一旦成为论文和资助入口,研究者便会针对它优化。性能上升可能来自真正能力,也可能来自数据泄漏、任务熟悉和策略适应。基准仍然必要,但应轮换评价集、保存隐藏测试、引入外部实验,并让成功标准定期接受争论。
一个评价器最容易获得过度权威,不是在它明显错误时,而是在它足够有用、以至于人们不再区分“指标上好”与“研究目标上好”时。标准怎样塑造候选
科学标准使协作成为可能。CASP 把结构预测组织成盲测;数学家把问题表述为可检验命题;材料数据库用共同近似描述稳定性;期刊形成对“新颖”“重要”“可行”的习惯判断。若把所有标准都说成偏见,科学便无法累积。
但标准会把注意力引向可测部分。蛋白质静态结构容易与实验比较,复杂动力学与细胞功能却更难压成单一分数;材料的热力学稳定可以大规模计算,可合成性和长期价值则需要其他知识;论文格式可以自动检查,问题是否值得研究没有等价程序。
AI 提高了标准的实际力量。过去,一个指标可能只是会议中的参考;当数十万候选由它实时筛选时,指标开始塑造候选本身。容易评价的方向得到更多迭代,难以评价的方向等待人工判断,二者的速度差距随之扩大。
评价器不是唯一力量。数据可得性、实验成本、模型表示、商业接口和职业激励都在共同作用。它却是自动闭环中最稳定的选择机制之一。“开放式科研”的边界
AI Scientist 一类系统常被称作开放式或端到端科研:模型阅读文献,提出想法,修改代码,运行实验,制作图表并撰写论文。[AI-030,版本敏感] 与单一问答相比,它确实跨过了多个环节。
但“开放式”通常发生在预先准备的代码环境中,可用数据集、实验预算和评价方式已有边界。系统可以选择算法改动,却不必建立新仪器、重新定义研究对象,或等待多年观察结果。
自动化必须从可执行任务开始。需要辨明的是,人类已经提前选择了领域、准备数据、限定成本、提供运行环境,并决定论文格式和评审标准。机器自主性发生在这套布置之内。
研究系统的开放度,应看它有权改变什么:能否增加变量、质疑数据标签、要求新实验,或承认当前任务没有合适评价器。权限越靠近问题与标准,系统越接近改变问题空间;只在参数和候选中选择,仍以利用为主。速度改变机会成本
AI 最明显的变化是速度。速度不决定方向,却会改变不同方向的相对回报。
设想两个研究计划。计划甲有公开数据、成熟基准和即时反馈,模型每小时可以筛选上千个候选。计划乙需要设计新仪器、建立新分类,几年后才知道问题是否问对。即使长期价值相同,甲也会更快产生论文、图表和可展示进展。
在现有制度下,可见产出会转化为后续资源。高产路线吸引学生和资金,形成更多数据,模型表现进一步提高。默顿早已描述科学中的累积优势;AI 为这条循环增加了速度。[SS-030;IN-016]
这条坡度不是 AI 创造的。发表期限、项目周期和职业评价本就偏好低风险、可度量的工作。AI 可能把坡度变陡:最适合自动化的路线更快完成,暂时没有评价器的路线相对更慢。
也可能出现相反结果。机器降低文献、编程和实验成本,小团队能够建立过去负担不起的原型,长尾问题得到尝试。两种路径可以同时发生:更多人进入研究,进入后却使用更相似的模型和标准。异常在闭环中会变成什么
自动闭环需要把失败归入可处理类别。代码报错可以修复,预测偏差可以更新参数,实验没有目标产物可以换配方。失败因此成为下一轮信息。
科学异常却有不同地位。有些来自仪器、污染和统计波动;有些说明理论中的对象、变量或边界条件有问题。二者最初往往没有清楚标签。若系统预设的动作只有“换参数、补数据、换工具”,它会把框架问题继续当作局部故障吸收。
A-Lab 能发现上游稳定性计算和伪势选择的问题,说明物理实验可以给闭环提供外部阻力。限制在于系统有多大权限改变目标和表示。若异常只能触发新配方,不能触发“数据库分类可能有问题”,批评仍停留在既有框架内。
机器的处理规则更明确,因而更容易审计:什么失败被丢弃,什么失败改变了模型,什么失败被送交人类。AI 的四种作用
为了避免把一切变化记在 AI 账上,可以区分四种作用。
**创造。**AI 引入此前没有的收敛机制,例如生成者与评价者共享模型谱系,使相关判断被当作独立意见。
**加速。**原有趋同机制仍在,AI 使短期产出优势更快转化为资金、引用和人才。
**固化。**一种方法进入数据库、接口和训练流程后,即使最初优势消失,替换成本仍使其延续。
**误归因。**观察到的集中主要来自既有制度、学科成熟或问题本身,AI 只是同时出现。
同一案例可以包含多种作用。AlphaFold 创造了新的结构预测能力,也可能通过数据库成为默认起点;结构生物学本来就有共享数据库和集中标准,不能把所有依赖归因于模型。当评价器成为研究对象
成熟共同体会研究自己的评价器。结构预测竞赛不断修改任务与指标,机器学习基准在数据泄漏后重建测试,自动实验平台也会把识别错误送回模型。评价标准并非永久外在,它本身可以成为科学问题。
AI 还能帮助这种反身工作。系统可以寻找“对指标高分、对真实目标无用”的候选,比较多个评价器的分歧,发现某些对象被系统性低估。对抗测试若由独立数据和专家设计,机器速度可以用来暴露标准的窄处。
这条抵抗路径不要求研究没有指标,而要求指标持续面对无法由自己消化的外部证据。物理实验、隐藏测试、跨领域专家和受影响使用者,都可能提供这种证据。机器能否改变问题空间
反方认为,规模化搜索可能带来质变。机器在既定空间中搜索得足够广,可以发现人类从未注意的结构;异常积累,也可能迫使系统引入新表示。一个生成系统可以构造原本没有命名的对象,实验反馈可以揭示新的中间相。
“在空间内搜索”与“改变空间”的边界并不固定。但质变仍需被辨认。若新对象只以高分候选存在,没有概念、实验和后续问题围绕它形成,搜索结果不会自动成为新的科学路线。命名、解释、复现、训练和资源配置都参与这一转化。
因此,本书不把 AI 固定在常规科学之内。较窄的判断是:当前最成熟的系统首先利用已有问题和反馈结构;它们是否进一步改变对象与标准,要由具体案例证明。常规科学的新产能
库恩意义上的常规科学,正适合通过稳定范例和反馈深入推进。AI 把这种生产方式的能力推到新的数量级。把这些成就概括为“只会做常规科学”,既不准确,也低估了常规科学的价值。
真正需要观察的是:当常规科学变得极其高产,异常会怎样被处理?异常可以成为下一轮优化的错误信号,也可以迫使研究者怀疑评价器和问题框架。前一种处理更容易自动化;后一种需要把失败从操作问题提升为理论问题。
速度越快,局部失败越容易被换提示、调参数、加工具和补数据吸收。这些修补可能是真进步,也可能使基础问题长期不被触及。关键不在补丁数量,而在修补是否带来新的可检验内容。第四章 预测给了我们什么
正文 v0.4|资料截止日期:2026-07-16两个结构并排放在屏幕上
结构生物学家比较 AlphaFold 预测与实验结构时,并不只看总分。他们把两个三维模型重叠,检查主链、侧链、配体口袋和柔性区域。有时整体形状几乎重合,决定功能的局部却不可靠;有时低置信区恰好是蛋白质在不同状态间变化的部分。[AI-002—AI-006]
模型给出可使用的结构假设,研究者仍需判断哪些部分可信,哪些受训练资料和表示限制,哪些问题必须回到实验。
结构数据库把过去昂贵稀缺的中间结果变成广泛可得的资源。许多项目不再从“这个蛋白质可能是什么形状”开始,而从“这个预测在哪些条件下成立”开始。
但预测、解释与操作并不是同一件事。从序列到结构的工作链
蛋白质结构预测的输入看似只是一条氨基酸序列,模型实际使用长期积累的结构与序列资料,寻找进化关系和残基间的几何联系,再生成三维坐标与置信度。[AI-002;AI-003]
在实验室里,预测会进入更长的流程。研究者比较同源蛋白,决定是否设计突变;若要研究结合,可能进行分子对接或动力学模拟;随后用生化测定、晶体学、核磁共振或冷冻电镜验证。预测减少盲目尝试,却没有让样品制备和功能实验消失。
预测还会改变实验优先级。一个实验室可能选择高置信结构,因为成功概率较高;也可能专门研究低置信区域,因为那里更可能包含动态或无序现象。数据库本身不决定路线,资助、训练和研究目标会把置信度转成资源分配。
结构生物学共同体很快开始细分模型边界:哪些蛋白类型表现较好,复合物与配体如何处理,侧链和金属位点哪里容易出错,预测能否用于分子置换。[AI-004;AI-005] 这些实践使模型成为可批评工具,而不是只能接受或拒绝的权威。预测的认识内容
一个预测至少提供三类东西。第一,对象的候选表示;第二,行动线索,例如哪些突变或结合位点值得实验;第三,资源排序,置信度高的候选更容易进入后续研究。
可靠预测可以指导行动,不必先成为完整解释。问题在于,使用方便会使预测承担超出自身的信息:静态结构不能自动说明细胞中的动态过程;高置信度不等于局部化学细节都正确;同一个结构还可能兼容多种机制。[AI-004—AI-006]
结构模型是由实验数据库、损失函数和几何表示加工的产物。把输出当作“对象本身”,会把测量条件和表示选择一起忘掉。解释要完成什么工作
科学哲学对解释有不同要求。亨佩尔关注现象怎样由规律与条件推出;机制论传统强调因果过程与组成活动;基彻关注论证的统一;干预主义把解释与反事实变化相连。不同任务需要的解释也不同。
对结构预测,研究者可能只需要局部说明:某个残基为何影响结合,某段无序区域为何在配体出现后稳定。解释不必包揽一切,但应当忠实于证据,说明适用条件,区分观察与推测,列出竞争机制,并帮助设计区分实验。
伍德沃德的干预主义提醒我们,要解释一个结果,需要知道改变某些变量时会发生什么。[PH-021] 机制解释则要求识别组成部分、活动及其组织方式。[PH-022;PH-023] 对蛋白质而言,还要问哪一部分在什么条件下移动,哪个相互作用维持功能,改变温度、配体或突变位点会怎样。
在一些任务中,形状已经足够;在另一些任务中,静态结构会遮蔽真正问题。实验之所以没有消失,不只是因为要给预测盖章,还因为它能发现模型没有表示的状态、测量动态并检验干预后果。动态对象与静态答案
蛋白质不是固定雕塑。许多蛋白在不同构象之间转换,功能依赖瞬时结合、环境、修饰和细胞位置。实验结构也是在特定条件下捕捉到的状态。
高精度静态预测仍能缩小候选机制。可是,若疾病突变影响的是构象转换速度,单一坐标就可能漏掉关键。低置信区域也不必只是“等待更强模型”,它可能反映对象本身具有多态性或缺少固定结构。
近期研究尝试用实验数据约束 AlphaFold 3,使预测与测量到的构象集合一致。[AI-006,版本敏感] 这条路线没有把实验降为最终验收,而让实验决定模型应表示哪些状态。它也削弱了“AI 预测必然排斥解释”的强说法。
真正需要防止的是单一输出被过早当成对象的完整描述。理解的幻觉
梅塞里与克罗克特把 AI 科研中的几类“理解幻觉”概括为:研究者可能误以为自己比实际更理解对象,误以为模型覆盖了更多可行视角,或误以为使用通用工具便提高了共同体的客观性。[AI-031]
幻觉不等于输出为假。它发生在能力与认识自我判断之间。工具越方便、文本越流畅,研究者越可能跳过自己尚不能回答的问题:预测在哪些条件下失效?还有哪些表示方式?结果改变时,怎样区分数据问题、模型问题和自然现象?
若大量团队使用同一系统筛选实验,高置信区域获得更多资源,低置信或难表示区域进一步缺乏数据。下一代模型再从新增数据学习,原有可见性差异可能被扩大。
这只是一条机制线索,不是结构生物学已经整体陷入的事实。该领域仍有强实验传统,也有专门研究动态结构和模型失效的工作。训练与解释依赖
工具也改变新人学习什么。预测普及后,学生更早接触完整结构,训练重点转向置信度、验证和功能实验。这可以提高效率,也可能减少一些基础判断的练习。
若学生只调用预测,他们很难知道坐标怎样与实验联系;若课程要求比较预测、原始密度和不同测量条件,模型反而成为理解证据的入口。让学生寻找失败案例,也比只展示成功结构更能形成边界意识。
本书用“解释依赖”指一种风险状态:研究者越来越依靠机器预测和说明组织现象,却逐渐失去独立比较、修正和反驳这些说明的能力。
依赖本身不是问题,现代科学本就依靠分工。风险在三个条件同时出现时上升:模型输出成为默认入口;替代表示和实验方法逐渐退出;研究者在系统失效时无法重建问题。
判断解释依赖,不能只问研究者“是否理解”。更具体的测试是:他们能否说明适用范围,回答新的反事实问题,设计区分竞争解释的实验,识别隐藏假设,并在模型失败时提出替代机制。若只能复述模型语言,理解可能停在表达层面。
机器也可以提升理解:生成可视化,比较多种假设,提示被忽略的变量,帮助跨学科研究者进入陌生领域。怎样检验理解
理解可以通过任务观察。给研究者一个模型解释后,要求他判断结果在哪些条件下不成立;改变一个变量,让他预测新结果;提供两个竞争机制,让他设计区分实验;隐藏一项假设,看他能否发现。
还可以比较不同协作方式:只提供预测,或同时提供置信度、训练分布说明和可干预变量,是否会影响反事实推理和实验质量。机器生成的解释也应列出适用条件、竞争假设和可证伪实验,而不只“用通俗语言说明”。
人类理解不是唯一目标。某些系统可以在无人完全理解内部计算的情况下可靠工作。共同体层面的最低要求,是仍有人能够检查证据链、发现适用边界,并在模型失效时提出替代调查。理解是一种分布式能力,不必由每个使用者完整掌握,也不能完全消失在供应商内部。
AlphaFold 展示了一个较健康的组合:预测极大扩展可用结构,实验研究继续校验、约束和扩展模型。未来是否保持这种组合,取决于资源是否继续支持实验结构、动力学和非主流方法。
预测给了科学一个新的起点。第五章 自动实验室与没有写进论文的失败
正文 v0.4|资料截止日期:2026-07-16目标在进入机器人以前已经被选择
A-Lab 的机器人并不是在所有可能材料中自由搜索。目标先由 Materials Project 与深度学习材料数据库中的计算稳定性结果筛出,还要满足空气中可处理、适合现有设备等条件。随后,文献模型从已发表配方中寻找相似路线。[AI-011—AI-013]
这些限制使实验可执行,也使系统偏向数据库能够表示、设备能够处理、历史文献提供先例的区域。高压、特殊气氛、复杂中间处理或难以用当前 XRD 流程识别的材料,较难进入队列。
因此,实验次数衡量的是所选空间中的探索强度。若要判断共同体探索是否扩大,还要看目标是否覆盖新区域,设备动作是否增加,数据库外的异常能否改变下一轮。
A-Lab 的一个积极结果是,实验反过来暴露了上游计算问题。某些目标难以实现,不只是配方不好,还与稳定性计算和伪势选择有关。物理世界迫使上游模型接受修正。十七天的循环
A-Lab 把无机材料合成的多个环节连成闭环。数据库提供候选目标;文献数据帮助提出前驱体和温度;机器人称量、混合、加热、研磨并把样品送入 X 射线衍射仪;软件识别产物,主动学习系统根据结果安排下一组配方。[AI-013]
更正后的论文报告,平台连续运行十七天,在五十七个目标中实现三十六个,执行三百五十三个具体配方,约三成产生目标相。最初关于“新材料”的强表述后来被收窄:目标对 A-Lab 及其配方模型是新的,不保证此前从未被科学界发现。[AI-013—AI-016]
这次更正没有否定平台的连续实验、失败反馈和多模块协调。它要求把几件事分开:做出指定相、确认结构、判断科学新颖性、评价材料价值。一个系统可以在第一件事上成功,同时在第三件事的口径上出错。
实验吞吐量扩大、可执行空间扩大和认识路线扩大,也不能用同一个数字表示。粉末、炉子和衍射图
系统先从目标化合物出发,选择固体前驱体和配比;机器人称量粉末、混合、装入坩埚并按设定程序加热;产物冷却、研磨,再由 X 射线衍射测量。软件把衍射峰与计算结构和数据库模板比较,判断目标相占多少,并决定下一轮配方。[AI-013]
每一步都有自己的失败。粉末可能吸湿,前驱体可能挥发,反应可能停在中间相,样品可能形成非晶物,衍射峰也可能因混相而难以解释。把所有失败压成一个零分,会丢掉反应路径;失败分型后,系统才可能判断是温度、前驱体,还是上游计算出了问题。
论文报告,主动学习对若干目标提高了产率,并利用失败实验缩小部分配方搜索空间。[AI-013;案例档案] 失败不只被记录,还改变了下一步行动。
系统的动作集合仍然有限。研究人员通过手工研磨、延长加热等方式实现额外目标,说明人类不是站在闭环之外,而是在闭环不能表达的地方重新安排实验。失败怎样成为知识
传统论文把成功压缩成图表和结论。失败往往留在实验记录、硬盘和研究人员记忆里;发表偏误研究长期表明,阴性和不显著结果更难进入公开文献。[MR-001—MR-003;MR-014]
A-Lab 的闭环保存了大量逐次决策。某种前驱体组合产生杂相,下一轮可以减少类似路线;某个中间相反复出现,系统能够修改配方。若这些记录被标准化、共享和检索,后来者不必重复同样尝试,还可能从失败分布中发现反应规律。
系统当时不能自主执行更长保温、中间研磨或更广的前驱体选择。失败在机器看来是当前配方的低分,在实验者看来却可能提示操作方式需要改变。能否改变动作集合,决定系统是在既定流程内学习,还是能重构实验方法。
机器可读失败记录可能走向两种未来。它可以成为公共知识,供不同实验室比较失败类型、仪器条件和人工恢复步骤;也可以成为平台私有资产,成功进入论文,失败只用于改进内部模型。技术能力允许两者,决定差别的是知识产权、数据格式、责任风险和评价制度。一次更正教会了什么
A-Lab 争议的核心之一,是“新”的含义。模型没有见过、数据库没有收录、文献检索没有返回,只说明系统的信息状态有限,不等于科学界此前未知。科学新颖性还需要更广文献、样品记录、命名差异和领域专家判断。
自动化会放大口径问题,因为运行天数、目标数和成功率可以精确报告,读者容易把同样的精确感延伸到“发现了什么”。技术能力与科学主张必须由不同证据支持。
更正也展示了必要的纠错程序:批评进入公开记录,作者调整说法。若自动科研要获得共同体信任,版本、更正和衍生数据库的同步更新,与保存实验结果同样重要。失败、噪声与异常
同一条异常信号可以被视为仪器噪声、工程失败,或现有理论不能解释的现象。自动系统通常擅长前两类:识别故障,利用失败改善下一轮。第三类需要把局部结果与更广理论联系起来,还要承担“也许什么都没有”的长期成本。
人类也常把真正异常当作噪声。自动记录反而有助于以后重新检查,前提是原始信号没有在清洗中丢失,标签可以重写。支持探索的平台应同时保存处理后的分类、原始材料和作出判断的依据。
异常不是一次确定的属性,它会随知识变化。实验者知道什么
波兰尼用默会知识说明,我们知道的常常多于能够说出的。熟练实验者会从样品颜色、粉末状态、仪器声音和曲线形状察觉异常,却未必能把每个判断写成规则。[PH-008;PH-009]
默会不等于神秘,也不表示能力永远无法自动化。传感器、视频记录和操作分解可以把许多技能逐步形式化。问题在于,自动化先替代重复、标准化的部分,人类减少操作后,也减少了形成异常判断的机会。
A-Lab 的人工介入很具体:手工研磨、延长加热、专家判断衍射结果。研究人员从日常执行转到系统边界。若新人不再经历大量普通实验,他们怎样获得识别非普通失败的经验?
人因工程把相似现象称为自动化的反讽:系统越可靠,人越少参与;罕见故障真正需要人时,人越可能缺乏熟练度。[TK-007—TK-009]
柯林斯又提醒,“默会知识”包含不同情形:有些只是尚未表达,有些与身体技能相连,有些依赖共同体长期实践。[TK-001—TK-005] 自动实验室可以捕捉其中相当一部分,但需要记录异常和人工理由;若平台只保留成功操作,训练资料会恰好缺少接管所需的经验。方法会不会灭绝
自动化不必消灭技能。它也可以精确记录操作,使低频方法不随少数专家退休而失传。
因此,“方法灭绝”不能用使用率下降判断。更严格的含义是:与一种方法相连的设备、训练、判断和概念传统退出到难以恢复。需要保护的,不是所有旧方法,而是能分离重要错误、观察不同现象,或在主流系统失败时承担备份的实践。
目前没有证据表明传统固相合成技能已因 A-Lab 消失。案例只能说明,自动化改变了技能形成的位置;长期采用是否削弱恢复能力,需要继续观察。失败记录的公共格式
若要让失败离开原平台,记录至少要包含目标、配方、设备条件、原始测量、失败类型、模型版本和人工介入。只有成功标签,没有原始数据,后来者无法重新判断;只有原始数据,没有决策过程,也难以知道系统为何改变路线。
统一格式也会带来偏差。难以分类的失败可能被塞进“其他”。因此,标准应允许自由文本、图像和后续重标注,并保存分类版本。
开放还要处理安全、隐私和竞争。可以采用受控访问、延迟开放和聚合统计,而不是在全开放与完全私有之间二选一。
最实际的问题是:谁为整理失败付费。若失败记录只是额外义务,研究者只会完成最低合规;若资助、期刊和平台把高质量负面数据视为产出,自动化才可能修正发表偏误。
A-Lab 因而是一个混合案例。它扩大实验吞吐量,保存逐次失败,发现上游计算错误,也高度依赖少数数据库、结构表示和 XRD 判据。它没有证明材料科学整体更开放或更收敛,只把问题具体化:系统搜索什么空间,失败由谁看到,人工技能在何处保留,评价器能否被质疑。
当这类系统成为许多机构共享的数据库、接口和设备标准,局部选择就会变成共同起点。第六章 从工具到认识基础设施
正文 v0.4|资料截止日期:2026-07-16一项预测怎样成为起点
研究者第一次使用结构预测工具时,它只是许多手段之一。随着预测数据库扩大、论文和软件直接链接结构、教学把模型作为常规入口,这项工具开始改变研究起点。新项目不再先问“能不能得到结构”,而问“这个结构可以用来做什么”。[AI-007;AI-008]
这既是能力扩散,也意味着许多后续判断从同一层数据开始。工具被调用一次与基础设施被默认使用,认识后果不同。
基础设施的力量主要来自低摩擦:文件格式能打开,接口能接上,评审者熟悉,学生会使用。研究者不必相信某套表示是唯一正确的;只要其他表示接不上数据、代码和期刊流程,默认路线就会获得更多工作。基础设施是在使用中形成的
斯塔和鲁勒德把基础设施描述为关系性的东西。它并非单独摆放的设备,而是在共同体日常工作中变得顺手:嵌入其他工具,依赖已有技能,连接组织惯例,通常只在故障时显现。[IN-001;IN-002]
同一平台对不同研究者意义不同。对拥有实验设备的结构生物学家,预测数据库是加速假设的工具;对缺乏实验条件的团队,它可能是几乎唯一的结构入口;对维护者,它又是模型、数据和接口不断更新的系统。下载次数不能说明依赖程度。
基础设施还继承“已安装基础”。新系统要兼容已有文件、数据库和仪器,因而会把旧分类带入新模型。一个最初为方便建立的字段,后来可能成为训练和评审的共同变量。
维护工作因此具有认识意义。修正数据、处理例外、决定版本兼容,看似技术服务,实际决定哪些对象能继续被比较。分类不是容器
数据库必须先决定对象怎样被切分:什么算同一种材料,怎样表示分子,哪些变量值得记录,缺失值怎样处理。科学史中的温度、物种、疾病和化学元素,也都是测量、仪器与概念共同塑造的对象。[PH-018;PH-019]
统一标准让知识可以累计,也可能使不符合标准的现象难以出现。AI 尤其依赖标准化输入和可比较结果;表示越统一,训练越方便,尚不能稳定编码的关系越难获得同等注意。
问题不在是否统一,而在标准是否保留修订通道,异常能否推动字段和分类变化,外部方法能否与主流系统交换证据。从便利到权威
一种工具通常通过几步获得权威:少数专家先把它作为辅助;性能提高后,论文把输出当作背景;数据库大规模预计算,其他软件直接调用;学生在课程中学习;评审者开始要求不用它的人说明理由。到这一步,不使用的成本已经高于使用。
这种默认可能合理。若工具经过广泛检验,它能节省重复劳动。风险是适用范围随默认一起被忘掉,研究者不再区分某项结论来自实验还是预测,也看不到数据库没有覆盖的对象。
版本记录、来源标签和适用边界能缓解这种情况。期刊和资助还应允许功能相当的替代证据,而不是把某一平台当作唯一合格证明。锁定的条件
路径依赖理论说明,早期优势可能在规模收益、学习效应和协调成本作用下被放大。一项技术未必在所有方面最优;一旦用户、配套工具和训练围绕它形成,切换成本会增加。[IN-016]
但许多所谓锁定后来被技术变化打破,历史叙述也常夸大偶然事件、低估持续效率。[IN-019] 不能看到流行方法就宣布共同体被锁死。
判断科学 AI 是否出现锁定,需要看替代系统能否接入数据,输出是否可移植,关键接口是否开放,评价器能否被检查,其他训练路线能否获得算力,主流平台失败时是否存在替代流程。
基础设施进入数据格式、课程、设备、审稿和资助要求后,替换会涉及许多相互依赖的组件;但它仍可能被更新、分叉和废弃。知识循环会不会自我强化
模型从科学文献和数据库学习,模型生成的代码、摘要、假设和结果又进入新文献。这个循环包含人类选择、实验检验、期刊发表和数据库标注,不能简化成纯生成数据的自我复制。
递归使用生成数据的模型研究显示,在特定训练条件下,分布尾部可能逐渐丢失。[AM-005] 这不是科学共同体已经发生“模型崩塌”的证据,因为科学仍有物理实验、新数据和人类判断。
若机器生成的主流表述更容易发表和检索,后续模型看到的资料会进一步集中;若负面结果和边缘方法原本就少,生成系统会继承这种缺口。
抵抗来自外部输入:独立实验、新测量、不同语言资料、地方知识和刻意采样的少数路线。基础设施若能保留来源和覆盖缺口,维护者便可以主动补充尾部。平台化的科学
基础模型和自动实验平台需要大量算力、数据与维护。能够建设通用系统的机构数量有限,其余实验室更多成为使用者。使用者仍可微调、组合工具、用实验纠正模型,但基础能力、接口和版本节奏由平台提供者决定。
平台化带来规模经济。安全更新、模型改进和数据整理可以一次服务许多团队,小机构不必负担完整技术栈。它也带来新的认识权力:平台决定哪些模型继续维护,哪些数据库优先接入,什么能力以 API 开放。
科研基础设施过去也常由少数机构管理。AI 平台的特殊之处,在于它可能同时进入文献、假设、分析、写作和评价。一个共同组件横跨多个环节,错误相关性与依赖范围都会扩大。
算力差距还影响谁能检查模型。外部研究者若只能访问接口,很难开展权重分析、独立微调和大规模压力测试。[IN-026] 公共算力、共享测试设施和较小的专门模型,不必复制商业系统的全部规模,只需让关键任务能够由其他路线检验。公共基础设施与商业平台
公共设施与商业平台各有优势。公共基础设施通常承担数据保存、开放规则和服务连续性;商业平台迭代更快、算力投入更大,却受产品战略和竞争影响。现实系统常是混合的:公共数据训练商业模型,商业接口服务公共研究,成果再回到开放文献。
治理不能只按所有权二分。应看关键决策是否可审查,数据能否迁移,版本能否复现,用户是否能影响路线,平台退出时由谁承担连续性。形式开放却无人维护的项目,也未必比可导出数据的商业工具更可用。
最需要警惕的是同一机构同时控制模型、数据入口、实验资源和评价。纵向整合会使内部标准横跨多个环节;模块由不同机构维护并允许互操作,则能在保留规模收益的同时增加制衡。相邻证据的边界
算法单一文化、模型崩塌和基础模型集中研究提供机制线索,却不直接证明科学共同体已收敛。
算法单一文化研究说明,共享模型可能使不同机构产生相似结果;它研究的多是分配或预测系统,不是科学理论。[AM-001;AM-002] 模型崩塌研究说明训练资料循环可能丢失分布尾部;它不等于科学文献已发生同样过程。[AM-005]
基础模型采用增长也不能单凭市场份额证明认识路线减少。共享模型可能被不同实验传统使用,产生更多问题。基础设施共同性与认识结果同质性之间,还隔着任务、制度和实验反馈。
本章只建立条件式判断:当少数模型同时成为数据入口、工具接口和评价标准,且替代路线的接入成本持续上升时,认识集中更容易被固化。怎样判断锁定
“大家都在用”不足以证明锁定。更有信息的信号包括:替代模型是否无法读取历史数据;论文是否依赖已下线版本而无法复现;资助和期刊是否要求某一平台输出;学生训练是否只覆盖单一工具;平台改变价格或条款后,实验室是否有可行替代。
还要看错误被发现后的反应。若数据库能够更正,外部团队能部署不同模型,用户可以转向其他实验,依赖虽深,仍有韧性。若错误只能由平台内部修补,外部研究者无法检查,集中才更接近认识锁定。
抵抗不一定来自更小的平台。一个规模很大的公共数据库,如果允许社区贡献、字段修订和外部工具接入,可能比许多封闭小数据库更支持多样研究。开源也不是充分条件:权重公开而训练成本过高,多数人仍只能使用现成版本。
有助于降低锁定的安排包括来源说明、可导出的中间结果、兼容不同工具的接口、原始实验数据、独立评价器和替代方法的运行资源。它们不能自动制造科学多元性,却降低不同路线无法继续工作的成本。第七章 开放给谁,依赖于谁
正文 v0.4|资料截止日期:2026-07-16被定向加入数据库的蛋白质组
2022 年,EMBL-EBI 把与被忽视热带病和抗菌素耐药性有关的蛋白质组加入 AlphaFold 结构数据库。[AI-009] 这些疾病长期受到资源不均影响,实验结构覆盖不足。公开预测不能替代药物研发,却能为靶点分析、候选筛选和实验设计提供起点。
DNDi 后来记录了在恰加斯病和利什曼病项目中使用 AlphaFold 的情况。[AI-010] 机构材料不能独立证明药物疗效,也不能把全部进展归因于模型;它至少说明,资源有限的研究计划确实在调用数据库。
集中建设的平台,可以把高成本能力铺到全球。从结构文件到实验
下载模型之后,团队还要判断置信度,确认蛋白质亚型和修饰,检查预测是否包含所需配体,设计可生产的片段,再决定用什么实验检验。进入药物发现后,还需要化学库、筛选平台、疾病模型和长期资金。
开放资源的价值要通过本地能力实现。拥有湿实验、计算人员和合作网络的机构,可以迅速把结构转成假设;资源不足的团队可能停在可视化。下载量相同,认识收益不同。
因此,开放项目不能只报告覆盖数量。还要跟踪谁在使用、用于什么问题、是否产生实验、当地研究者是否获得技能和署名,资料能否反哺平台。
定向加入被忽视疾病蛋白质组,是一种主动修正。平台没有等待使用量决定优先级,而把公共卫生价值写入数据库扩展。访问之后还有什么
把资源放到网上,只完成开放的一部分。研究者还需要网络、算力、软件、培训、实验材料和解释结果的能力。开放科学研究在低资源环境中反复发现,数据可访问不等于可使用,统一规范有时还会把维护成本转移给资源不足的团队。[MR-019;MR-020]
这不是否定开放的理由,而是要求把开放从“文件是否可下载”扩展到实践条件:数据是否可解释,工具能否在本地运行,研究问题是否由使用者提出,成果是否回到数据库。谁承担开放的劳动
数据开放需要整理、标准化、匿名化、写说明和长期维护。高资源机构更容易满足规范,也更有能力从全球数据中训练模型。低资源团队可能承担采集和清洗,却缺少算力与发表渠道。[MR-021—MR-025]
批评不指向数据共享本身,而指向利益与责任的分配:谁决定用途,贡献者是否参与治理,模型收益是否回到数据来源地,本地限制能否被保留。
统一许可和格式能降低合作成本,但“一套规则适用于所有地方”会忽略不同法律、疾病负担和知识传统。情境化开放要在可比较与地方控制之间建立接口。
AI 平台还增加了反馈不对称。使用者免费得到预测,平台从全球使用中获得声誉、反馈和后续数据。若这些回流只由平台吸收,开放能力与集中权力会同时增长。开放怎样影响多样性
共享数据可以让更多团队检验不同假设,减少重复采集成本;也可能使所有研究从同一分类和预测开始。
莱昂内利把开放科学理解为不同实践系统之间的情境化连接。[PH-027;PH-028] 数据只有在来源、用途和环境得到说明时,才能跨系统流动。真正的开放不是清除差异,而是让差异建立可追踪的联系。
对 AI 科学,这意味着数据库应保留模型版本、置信度、实验来源和适用边界。使用者需要知道哪些结构来自实验,哪些来自预测,哪些区域不可靠。
如果不同团队使用同一预测研究不同疾病、提出不同实验,开放可能扩大探索;如果数据库置信度成为统一的选题排序,低置信、数据稀疏的对象反而更少获得实验。结果取决于下游资助与评价。语言、地区与模型边界
科学知识并非只用英语生产。地方数据库、临床记录和生态知识常以其他语言和格式存在。通用模型若主要从高可见度英语资料学习,这些知识在检索和生成中更难出现。
开放接口能降低翻译障碍,也可能把地方概念压进主流术语。疾病分类在不同卫生系统中未必相同,生态对象的地方命名还可能包含季节和用途信息。若模型只把它们翻成最近的标准标签,连接建立了,差异却消失。
更好的基础设施应保留原始术语和来源,说明转换不确定性,并让本地研究者修正模型。认识多样性因此不只看模型架构,也看数据语言、分类传统和治理者是谁。依赖的具体形状
依赖不是一个总体标签。研究者可能依赖平台权重,却保留独立实验;依赖数据库分类,却使用不同理论;依赖 API,却能够导出结果并切换工具。不同依赖的风险不同。
有些依赖是合理分工。实验室没有必要自己重训所有模型,如同不必自己制造显微镜。问题在于关键组件是否可质询,系统失败时能否切换,使用者能否理解其限制。
依赖还与时间有关。免费服务可能改变条款,模型版本可能下线,接口可能停止维护。若研究流程、论文复现和课程训练都绑定一个版本,更新会产生断裂。公共托管、长期存档、开放标准和可导出数据,能够降低这种风险。开放的治理形状
一种模式由单一机构维护核心数据库,社区提交数据和反馈;它能保持一致和快速更新,风险是分类与优先级集中。另一种模式采用联合治理,不同地区和学科共同决定标准,协商更慢,却更能容纳地方需求。还可以建立联邦式系统,让数据留在本地,以共同协议连接。
没有一种模式在所有任务上最好。评价治理时,应问决策是否透明,异议能否进入,贡献者是否有持续权利,数据迁移是否可能。
模型开放也有层次:可查询、可下载权重、可查看代码、可重训、可审计训练资料。每一层需要不同资源。开放不是一个开关,而是一组关于访问、修改、治理和退出的权利。谁决定被开放的对象
开放项目仍要选择。哪些蛋白质组优先加入,哪些语言获得工具支持,哪些材料性质进入数据库,都是资源分配。所谓“全量开放”通常建立在先前筛选之上。
模型容易在数据丰富的对象上继续改进。若没有定向政策,数据稀疏问题会在性能竞赛中继续落后。开放的公平性不仅看谁能访问,也看谁的对象进入训练与评价。
这种选择不能完全交给模型表现。疾病负担、公共价值、地方知识和长期能力建设,都需要制度判断。依赖也可以带来独立性
共享基础设施有时恰好使独立研究成为可能。小团队依赖公共数据库,才能不依赖某个大型合作组;开放模型让研究者检查商业预测;统一格式使不同实验室能够交换数据并交叉验证。
关键是依赖是否多点连接。团队可以在公共数据、多个模型和本地实验之间选择时,依赖构成网络;所有关键环节只能通过一个平台时,依赖才接近控制。治理目标不是消除依赖,而是避免单点决定全部认识路径。
这也限制了对“集中”的简单批评。分散的小数据库若互不兼容,可能使资源有限团队更难进入;大型公共平台若接受社区修订,反而扩大多样研究。怎样判断开放是否扩大探索
可以沿一条具体链条观察:资源发布后,是否有此前较少参与的机构实际使用;这些机构是否提出不同问题,而非只复制主流任务;结果是否进入公共文献和数据库;平台是否因这些使用而修改覆盖、分类或评价。
若开放只增加下载和论文数量,却没有改变问题来源,它扩大的是参与和产能,不一定扩大认识路线。边缘团队的证据能反过来改变平台,开放才形成双向学习。
长期评价还要比较替代情形:没有集中平台时,低资源团队是否根本无法进入;有平台后,是否形成难以退出的依赖。二者可能同时成立。政策不应因依赖风险撤回公共能力,而应投资本地实验、培训、公共算力和数据治理,使使用者获得更多选择。
现有材料还不足以说明开放数据库已经改善全球研究公平。我们知道资源被提供,也知道具体机构使用;不知道不同地区的采用率、下游成果和能力转移。
问题可以说得更准确:集中基础设施既可能扩大参与,也可能统一起点;依赖既可能是高效分工,也可能变成不可质询的控制。第八章 机器共识之后的客观性
正文 v0.4|资料截止日期:2026-07-16一篇论文的两种写法
自动评审系统可以检查引用、方法描述和统计错误,也会对新颖性、清晰度和重要性给分。2026 年的一项研究尝试用策略性改写影响 AI 辅助评审:论文实质内容不变,表述针对模型偏好调整,评分随之变化。[MR-016,版本敏感]
这类实验不证明所有机器评审都容易操纵。人类评审同样受文体、机构声誉和熟悉度影响。它揭示的是:当评价器可以被低成本反复调用,作者可能开始针对模型优化论文。
期刊与资助机构采用 AI 有现实理由。投稿量增长,专家时间不足,格式和基础质量检查适合自动化。问题不在是否使用,而在机器判断怎样进入最终权威。评审到底在判断什么
一份论文要接受多种判断:方法是否支持结论,数据是否完整,工作与既有文献有什么关系,问题是否值得版面,表述是否清楚。前几项较能由证据争论,后几项包含更多价值和领域判断。
引用是否存在、统计描述是否与表格一致、报告清单是否完整,较适合自动检查;“重要性”和“新颖性”依赖对未来研究的判断,错误更难迅速发现。把所有维度汇成一个接收分,会掩盖这种差别。
人类评审也会混合维度。语言不流畅可能被误判为方法不成熟,知名机构更容易获得信任,跨领域提案因缺少合适专家而被低估。机器可以减轻部分语言与时间负担,也可能从历史数据学习同样偏好。
更好的比较不是谁更接近抽象完美,而是错误怎样分布。机器若擅长一致性检查,人类若擅长判断领域意义,组合可能改善结果;两者若依赖同一核心文献和评价习惯,组合只是重复。一个本来就不完美的制度
同行评审从未是无偏的真理机器。研究发现,资助评审会受申请者声誉影响,分数对后续产出预测有限,对跨领域或远离评审者知识边界的项目更不利。[FD-004;FD-006;FD-003]
不同评审者的一致度也常不高。这不等于制度毫无价值。评审可以筛除明显错误、提供改进意见、建立责任链;它的认识保证来自多种程序与后续纠错,而不是一次评分。
AI 进入的是这个已有缺陷的制度。公平的问题是:机器与人的错误是否不同,组合后是否增加可纠正性。批评怎样在机器流程中生效
朗基诺把社会客观性建立在批评过程上:有渠道提出异议;共同体会回应;评价标准公开并可讨论;权威差异受到一定节制。[PH-006;PH-007]
把“反对者 Agent”加入流程,只满足最表面的条件。真正的批评要能改变假设、数据选择、方法或评价标准。若反对者与作者共享模型和检索,且只能在预设格式中挑错,它可以提高局部质量,却未必提供外部挑战。
批评渠道还要求参与者能看到足够材料。模型若只返回分数,作者无法知道问题在哪,申诉也无从开始。系统至少应区分事实检查、方法检查和价值判断,并保留引用依据。
异议能够生效,意味着它会导致修改、重审或人工介入。很多多 Agent 流程允许怀疑者输出反驳,最终排序仍由原评价器完成。异议存在于日志,却没有改变决定。
机器批评也可能很有力。模型能快速对照文献、检查不一致、生成反例候选;若它连接独立数据库、形式证明器或物理实验,批评的外源性会提高。评审模型需要什么测试
模型用于科学评价之前,应接受任务相关的盲测。测试集应包含方法可靠但写作不流畅的论文、交换机构和作者信息的版本、跨领域工作、真正存在数据问题的稿件,以及内容不变但文体经过策略调整的文本。
还要测量错误相关性。两个模型平均表现都好,若总在同一类非主流工作上失败,组合并未增加客观性。人机组合也应比较:模型是帮助人类发现错误,还是让评审者更依赖首个分数。
盲测不能替期刊决定自己重视复制、理论创新还是应用影响。模型只能在这些目标下执行,不能把历史接收记录自动变成规范标准。
若平台只提供供应商自己的准确率,科学共同体实际上把闸门的评估也交给了同一来源。合成共识进入闸门
假设生成模型提出方向,写作助手把它整理成主流文体,评审模型依据相似语料判断新颖性,资助系统再用相近模型排序。每个环节的分数看似独立,实际可能共享偏好。
这种循环不需要明显错误。它可以持续偏好容易表达、容易检索、与既有文献接近而有可见增量的研究。高风险项目缺乏相似范例,更难得到稳定高分;研究者观察到这一点后,会主动调整写作和选题。
算法单一文化研究提供相邻证据:共享决策模型会使不同机构产生相关失败。[AM-001;AM-002] 科学评审尚缺同等规模的直接测量。风险机制清楚,风险规模未知。
策略性改写实验值得关注,是因为它显示这种适应可以被系统测试。[MR-016] 防止循环,不是禁止改善表达,而是减少不可见的单一评分,使用多个来源的检查,保留对原始方法和数据的直接审阅,并为高影响决定设置人工复核。机器也可以扩大批评入口
机器评审有真实的正面路径。它可以帮助非英语作者改善表达,提醒评审者检查统计和数据共享,匹配跨领域专家,并把长篇争论整理成清楚的问题。投稿量很大时,这些功能能把专家时间留给真正需要判断的部分。
模型还可以主动寻找与主流结论冲突的文献,或为少数方法生成一份最强论证。若这些输出被明确标作辅助,而不是以“客观分数”出现,它们可能扩大批评材料。
正面效果也要测量:语言改写是否降低地域偏见,文献检索是否增加独特来源,专家是否因模型建议而改变判断。制度不必在全面采用与全面禁止之间选择。人机组合的权威位置
机器可以只做格式检查,生成供人参考的第二意见,承担初筛,或直接决定接收与资助。权威位置不同,认识后果差别很大。
较稳妥的组合应保留可追踪性:评审者知道模型做了什么,能查看依据并推翻建议;重要异议不被平均分淹没;跨领域和高风险项目有人工或异源复核;模型版本和用途被记录。
完全排除 AI 也未必提高客观性。投稿量过大时,疲惫评审可能只作表面判断。制度目标应是扩大有效批评,而不是守住某种纯人类形式。少数意见与申诉
评审制度常以平均分结束。对可能暴露主流盲点的工作,一个具体异议可能比平均值更重要。若某位评审指出数据泄漏、模型谱系相关或关键异常,不能用其他高分简单抵消。
机器可以帮助结构化争论、追踪作者回应、提醒编辑某项质疑尚未解决;也可能把少数意见摘要成温和表述,在共识排序中降低权重。系统应允许关键反对意见单独上报。
作者还应知道哪些判断来自模型,能够指出领域误解或版本错误;编辑应能查看记录并覆盖建议。申诉若仍由同一评价器自动处理,只是把原判断再运行一次。
评审数据也应被用于反身研究:不同领域、语言和机构的评分误差如何,模型与人类在哪些稿件上分歧,分歧后来怎样发展。谁能质疑评价器
机器评价使标准的一部分进入模型参数和平台策略,外部研究者难以知道评分依据。即使模型给出解释,也可能只是事后生成的文字。
因此应把标准分层。格式、统计和报告规范可以公开;新颖性、重要性等判断应保留争论空间,不宜由单一模型定案。评审结果还应允许申诉,尤其当模型可能受领域术语、语言或非主流方法影响时。
谱系披露也有实际用途。若论文生成、评审和复现都使用同一基础模型,编辑至少应知道这种相关性,而不是把三次一致当作三份独立支持。
科学客观性从来不等于没有依赖。它要求依赖关系能够被看见,批评能从外部进入,标准能在必要时改变。第九章 退出、遗忘与恢复
正文 v0.4|资料截止日期:2026-07-16文件还在,能力却可能消失
麦肯齐与斯皮纳迪研究核武器知识时指出,图纸和文档可以保存,制造能力却依赖供应链、设备、组织经验和熟练判断。多年不实践以后,知识仍在档案里,能力却不再存在。[TK-004]
科学方法也有类似结构。一篇旧论文能够下载,不表示实验室能重现当年的样品、仪器和手法。恢复需要寻找材料、修建设备、训练人员,并重新发现当时没有写下的判断。
柯林斯对实验复制的研究显示,技术转移往往需要人与人的接触,单靠论文不足。[TK-001;TK-002] 这不表示实践知识永远不能编码,而是说明保存对象不只包括命题,还包括判断怎样在具体情境中使用。
AI 和传感器能够改善保存。操作视频、原始仪器数据、代码环境和交互日志比传统论文丰富得多。自动化是否抵抗遗忘,取决于它是否记录失败和人工介入,数据能否被未来系统读取。代际更替不是全部
普朗克那句“新的科学真理并不通过说服反对者而获胜”的流行转述,常被概括成科学随着葬礼前进。历史上,代际更替确实会改变权威和训练网络,但科学更新还依赖新仪器、异常积累、制度变化和新一代的职业机会。[PH-001;PH-002]
科学学研究发现,知名科学家退出后,外部研究者和新方向有时更容易进入,合作者的产出与网络也会变化。[GE-001;GE-002] 这些结果说明权威结构影响方向,却不证明年轻人天然更开放,也不证明所有科学革命依赖死亡。
把问题写成“机器不会退休,所以范式不再退休”过于粗糙。模型会下线、版本会替换、公司会停止服务。真正可能延续的是围绕模型建立的数据、接口、基准和投资。一个版本退出,后继版本仍可能继承相同表示和评价。
数字化的特殊之处不是不死,而是复制和继承成本低。问题从“谁退休”转成“什么被继承”。更新发生在张力中
库恩强调科学需要传统与创新并存。没有传统,研究缺乏深度;传统过强,异常难以改变框架。[PH-002]
张夏硕关于认识迭代的研究进一步说明,旧系统不一定立即被新系统完全消灭。测量和分类实践可以在竞争中暴露彼此缺陷,后来被认为过时的系统也可能保存重要能力。[PH-018;PH-019]
这不要求永久维护所有旧范式。更实际的标准是:退出是否经过足够比较,关键证据能力是否已有替代,恢复成本是否被评估。
一种理论可以在论文中继续存在,却失去实验设施;一种方法可以在软件仓库中保存,却没有人能判断输出是否异常。更新能力取决于这些实践条件,而不只是观念上是否允许反对。脱离循环的人
自动化研究用“脱离循环”描述一种状态:操作者不再持续参与过程,对系统状态的感知下降;异常要求接管时,他必须迅速恢复情境理解。[TK-007;TK-008]
实验室中的时间尺度可能更长。一个平台连续运行数月,研究者主要查看仪表盘;复杂异常一年只出现几次。新人从未手工完成全部流程,却要在平台失败时判断问题来自软件、设备、材料,还是新现象。
解决办法不只是保留手工岗位。可以让研究者定期参与关键步骤,使用历史故障训练,在异常时提供原始数据和足够接管时间,并把人工恢复过程回写系统。
自动化还会创造新任务:配置传感器、审计模型、比较实验日志和设计闭环。劳动力研究表明,技术会替代、重组并产生任务。[TK-018;TK-019] 但新技能若只围绕单一平台,平台失效时仍可能无用。
因此,应看团队能否识别异常、修改动作集合、解释数据并切换方法,而不是只数多少操作由人完成。自动化后的恢复成本
机器时代的恢复成本至少来自四处。第一,数据和格式绑定,替代模型无法直接使用历史资料。第二,设备与平台专用化,其他方法缺少运行环境。第三,人员训练围绕自动流程,手工和诊断能力减少。第四,评价标准统一,非主流路线难以证明自己值得保留。
这些机制都可以被设计缓解。自动化可以记录操作、建立模拟训练、定期演练人工接管;开放接口可以允许替代模型;基础设施可以维护多种数据表示。
问题不在自动化是否“消灭职业”,而在新技能是否足以在系统失效时重建被外包的环节。研究实践以组合存在
安肯尼和莱昂内利用“实践组合”描述科学变化:理论、技能、材料、设备、数据库与组织方式共同形成可以工作的整体。[PH-024] 这个单位比单一模型或单一范式更适合分析 AI 基础设施。
一个模型下线,围绕它建立的组合未必消失。数据格式、课程、实验优先级和置信度用法可能继续存在。反过来,即使权重没有改变,新实验和新使用方式也能使组合发生实质变化。
恢复因此不能只保存旧模型。未来需要的可能是原始数据、标定样品、设备控制、操作经验和独立评价,而不是某一版本的可执行文件。
实践组合也允许渐进替换。共同体可以先开放接口,让替代评价器并行,保留一部分人工实验,再逐步比较。可逆性往往来自模块化和过渡,而不是永久维持两套完整系统。模型容易改变吗
有一个有力反方:模型没有声誉焦虑,不会因为一生押注某理论而拒绝改变。权重可以重训,Agent 可以替换,竞争版本可以并行运行。机器共同体可能比人类机构更容易抛弃旧方法。
这在组件层面成立。软件版本的替换速度远快于学术代际。但共同体是否改变,取决于组件外的沉没成本。新模型为了兼容既有数据库、接口、监管和设备控制,往往会继承旧表示。
因此可能出现“模型快速更换、基础结构缓慢变化”;也可能出现新模型打破旧工具链、降低替代路线成本。没有经验材料,不能预先决定哪一种占主导。方法何时可以退出
退出决定可以围绕四个问题:新方法是否在关键现象上达到或超过旧方法;旧方法是否仍能观察新方法看不到的对象;关键结果是否已由不同路线交叉验证;恢复旧方法需要多少时间和资源。
若旧方法只在速度上落后,却仍提供独立测量,完全退出可能过早;若其独特能力已由更可靠方法替代,继续完整维护没有必要。
退出还可以分阶段。停止大规模常规使用,不等于立即拆除全部设备;可以保留能力中心、样品档案和周期训练,待新方法长期稳定后再缩减。某些危险、昂贵或伦理上不可接受的方法则应立即停止,恢复能力不是绝对价值。范式更新能力
本书所说的范式更新能力,不要求事先预测科学革命。它指共同体在基本对象、问题、测量或评价标准需要改变时,能够识别这种需要,并把资源转向新的实践。
可以观察几个条件:异常能否从工程错误上升为理论问题;是否存在不同方法的团队;评价标准能否公开质疑;关键技能和设备是否可恢复;新路线能否获得初始资源;主流基础设施是否允许外部接入。
这些条件不等于“革命发生次数”。革命往往只能事后辨认,恢复成本与异源性更适合在变化发生前观察。
早熟收敛的风险也在这里显现。主流系统正常时,替代路线消失不会产生即时损失;等主流路线失败,才发现备份已不存在。用演练发现纸面能力
恢复能力平时很难观察,故障演练可以使它显形。实验平台可以暂时关闭模型接口,让团队用替代流程完成关键任务;数据库可以测试导出到其他格式;实验室可以从存档样品和文档重建低频方法。
演练会暴露具体缺口:说明文件依赖失效链接,原始数据没有保存,只有一位工程师知道配置,人工接管所需耗材已停产。
演练有成本,应按基础设施关键性分级,也不能变成形式考核。真正测试应包含意外变化,并由独立人员观察。目的不是证明系统永不失败,而是了解恢复需要什么。更新也可能更快
数字系统并非只会固化。模型可以并行运行,旧版本可以存档,新模型可以在不同数据上重训,全球研究者能迅速传播反例。软件分叉和开放权重也给少数团队提供试验机会。
这条正面路径成立的条件是,更新不只发生在输出。外部证据要能进入训练,旧分类可以修改,替代模型能够获得运行资源。若新模型仍受相同数据、接口和评价约束,观点更换可能只是表面。
因此,本章的结论不是“机器让范式不退休”,而是:数字化把更新能力更多地交给版本治理、数据来源和基础设施设计。它既可能延长旧结构,也可能使替换前所未有地快。
保存探索能力也不等于保存所有旧方法。可以优先保护三类东西:能观察不同现象的方法;能分离主流系统共同错误的独立路径;一旦失去便极难恢复的关键技能与材料。
路线宽度、错误独立性和恢复能力,还需要能够被观察。第十章 怎样观察早熟收敛
正文 v0.4|资料截止日期:2026-07-16一条下降的曲线
2023 年,《自然》刊出一项覆盖数千万篇论文、专利及其引文关系的研究。研究者计算一种“颠覆性”指标:新成果发表以后,后来者是继续同时引用它和旧工作,还是逐渐绕过旧工作,直接以它为新的起点。按这项指标,论文和专利的平均颠覆性在几十年间持续下降。[SS-023]
这条曲线很容易被写成“知识越来越多,真正的新东西越来越少”,也很容易被拿来为本书作证。但指标记录的是引文网络的一种变化。引文受论文数量、参考文献长度、数据库覆盖、学科惯例和写作方式影响;改变实验实践的技术,也未必让旧论文迅速从引文中消失。研究并没有把曲线直接叫作“科学质量下降”,更没有把它归因于人工智能。
早熟收敛是关于共同体能力的判断,数据却只能从可记录的动作开始:论文引用谁,课题使用什么方法,模型被调用多少次,实验室是否保留某台设备。我们必须从这些动作推断路线是否变窄、错误是否相关、失败后能否转向。推断不能省略,也不能假装只是“让数据说话”。指标看到的是痕迹
科学学已经发展出许多观察探索与利用的方法。
知识组合研究把过去很少一起出现的文献组合视为较不寻常。高影响成果往往以大量常规知识为基础,只搭配少量罕见组合。[SS-016] 探索并不等于任意远行;研究若与既有知识没有联系,可能无人理解,也难以检验。
团队研究发现,大型团队更常推进既有路线,小型团队更常产生改变后续引用结构的成果。[SS-017] 这不是对人物性格的判断。大型协作适合复杂设备、数据基础设施和长期项目,小团队则更容易改变方向。
课题选择研究显示,科学家总体偏好有文献基础、风险较低的路线;少量高风险工作一旦成功,回报可能更大。[SS-019] 这种分布早于生成式 AI,说明保守性首先来自职业与知识结构。
电子化检索也提供过启发。在线获取使研究者能接触更多文献,部分研究却发现引用向较少的核心论文集中。[SS-021] 原因仍有争议,但它说明“可访问的来源更多”与“实际使用的来源更多样”不是同一句话。
每种指标都只看见一部分。主题熵下降,可能是空间收窄,也可能是领域终于形成共同对象;引用集中上升,可能是从众,也可能是基础知识成熟;方法数量减少,可能是过早淘汰,也可能是充分比较后的选择。指标必须与案例、时间顺序和机制解释配合。“新颖”为什么尤其难量
文献计量常把罕见知识组合叫作新颖,文本模型计算摘要之间的语义距离,评审人直接给候选想法打分。这些方法测量的对象不同。
一句话可以在词语组合上很新,却没有可执行内容;一个实验设计沿用常见语言,只改变控制条件,却可能推翻旧解释。一项研究在发表时看似普通,几年后才成为新路线的起点。反过来,刻意追求罕见组合也会制造大量没有后续生命的文本。
离现有知识较远的工作往往更难被及时理解和评价,认可可能来得较晚。[SS-024] 若只用已获资助和发表的成果训练评价器,评价器会把制度过去愿意看见的东西当成“可行的新颖”。
人工智能还增加了候选、执行和路线三个层次。模型可以提出一万个不同题目,真正获得实验资源的只有十个;这十个项目仍可能使用同一数据库、表示和成功标准。只看生成文本,会把尚未付出成本的可能性当成共同体已经拥有的道路。
因此,至少要沿候选、选择、执行和延续四个环节观察。与人工智能直接相关的测量
2025 至 2026 年,开始有研究直接观察科研基础模型和智能体。这些材料变化很快,正式出版前需要刷新。
一类工作统计基础模型在科学论文中的使用,从论文声明、代码依赖和文本特征识别模型进入哪些领域。[IN-027] 这能说明采用速度,却很难说明依赖强度。偶尔用模型润色摘要,与让模型决定实验队列,不应记成相同的一次“AI 使用”。
另一类工作比较人类和科研智能体生成方向的分布。有预印本报告,智能体候选在集合层面比人类候选更集中。[AI-024] 若结果稳健,它支持一个窄主张:在给定任务和提示条件下,模型群体可能反复走向相似区域。它不能说明这些方向的科学价值,也不能说明真实实验室会采用哪些候选。
还有研究尝试测量语言模型的错误相关性。[AM-009] 两个系统各有九成准确率,若错误独立,共同失败很少;若错误集中在相同问题上,增加系统数量的收益会迅速变小。把这类分析移到科学任务,需要更困难的数据,因为真实异常常没有标准答案,模型还会共享检索、代码库和评价器。
科研智能体基准也开始从固定答案走向开放研究流程。[AI-025] 基准可以检查系统是否完成检索、代码执行和实验计划,却很难在短期内判断一个假设是否会发展成新传统。越接近开放科学,评价越依赖专家、时间和物理实验。
这些研究还没有给出总体结论,却开始把“模型对共同体做了什么”变成可记录的问题。三条需要长期记录的线路线组合
路线不能只按论文主题划分。两篇论文讨论同一疾病,却可能采用不同分类、测量和解释目标;标题差异很大的论文,也可能只在同一模型上更换数据集。
较完整的观察应记录研究问题、方法、数据、模型谱系、实验平台和评价标准,还要区分路线的进入与退出:新路线出现多少,存活多久,退出是因为证据失败、资助中断,还是设备和人才被主流吸收。
时间尺度很重要。热点短期集中、随后分化,可能是健康累积;一种方法成为基础设施后长期没有替代者,风险才更值得关注。路线宽度不是某一年分布是否平坦,而是共同体能否持续产生并维持可行替代。错误来源的分离
这条线目前最缺数据。论文通常披露实验设备和统计方法,却很少完整披露模型版本、提示、检索库、评价器和人工改写过程。
可以把认识独立性向量转成记录字段:权重是否继承,训练资料是否重叠,检索来源是否相同,物理实验是否独立,概念和成功标准是否共享,机构控制是否分离。具体任务只需选择最可能共同失效的几项,不必压成精确分数。
复现也应区分层次。同一代码重复运行,证明流程可重放;同一模型换随机种子,检验稳定性;不同模型处理同一数据,分离部分算法错误;不同实验传统重新获得结果,才提供更强的异源支持。恢复能力
恢复能力通常在失败前不可见。研究它,需要追踪方法退出后的设备、人员和材料:课程是否仍开,关键仪器是否有人维护,样品和原始数据是否可用,替代软件能否读入旧格式,实验室需要多久才能重新运行。
历史案例提供线索,真实演练更有价值。高度自动化平台可以让部分模块暂时离线,观察团队能否完成关键任务。演练能显示哪些能力只存在于操作手册中,哪些仍有人掌握。
维持所有旧技术会浪费资源。恢复成本的作用,是让退出决定包含未来风险,而不只比较当前性能。为什么不能制造一个总指数
一个“早熟收敛指数”似乎便于比较学科、平台和年份,但把三个维度加权以后,争议只是藏进权重。
路线集中可能很高,错误来源却由独立实验分离;方法数量很多,实际都依赖同一基础模型;恢复能力很强的领域,也可能主动集中力量处理紧迫问题。这些组合含义不同。
更稳妥的做法,是让主题分布、模型谱系、异源复现、技能存续和资源集中并列成观察面板。面板提示哪里需要追问,不能自动宣布一个领域“生病”。
指标还会改变被测对象。奖励“主题多样性”,团队可能拆分关键词;要求使用多个模型,研究者可能调用几个同源接口;把失败日志数量纳入考核,平台可能记录大量无意义失败。测量必须预期这种适应。什么结果会削弱中心命题
测量计划也要允许风险没有出现。
若高采用 AI 的领域持续产生新问题、方法和测量方式,边缘路线存活更久,中心命题应当收窄。若多模型系统在真实异常上的错误相关性下降,异源实验复现上升,合成共识只会是局部问题。若自动化平台保留人工训练和替代接口,使方法退出后的恢复时间缩短,锁定路径就没有成为主要事实。
还有一种可能:研究路线确实集中,却主要由既有资助、发表和产业结构解释,AI 只是提高执行效率。此时,AI 应被描述为放大器,而不是独立起因。
这些结果决定“早熟收敛”能否成为可被经验约束的研究问题。共同体需要新的记录
模型和工具的使用披露不完整,失败日志大多留在私有平台,方法退出很少被登记,复现也不区分谱系。正因为这些数据不存在,我们既不能证明 AI 已使科学整体收敛,也不能放心地说风险只是想象。
建设记录制度会增加负担,也会碰到商业秘密、隐私和安全。制度选择必须围绕这些具体代价展开。本章主要资料Michael Park, Erin Leahey and Russell J. Funk, “Papers and Patents Are Becoming Less Disruptive over Time,” Nature 613: 138–144, 2023(SS-023)。Brian Uzzi et al., “Atypical Combinations and Scientific Impact,” Science 342: 468–472, 2013(SS-016)。Lingfei Wu, Dashun Wang and James A. Evans, “Large Teams Develop and Small Teams Disrupt Science and Technology,” Nature 566: 378–382, 2019(SS-017)。Jacob G. Foster, Andrey Rzhetsky and James A. Evans, “Tradition and Innovation in Scientists’ Research Strategies,” American Sociological Review 80: 875–908, 2015(SS-019)。James A. Evans, “Electronic Publication and the Narrowing of Science and Scholarship,” Science 321: 395–399, 2008(SS-021)。Johan S. G. Chu and James A. Evans, “Slowed Canonical Progress in Large Fields of Science,” PNAS 118: e2021636118, 2021(SS-022)。Jian Wang, Reinhilde Veugelers and Paula Stephan, “Bias against Novelty in Science,” Research Policy 46: 1416–1436, 2017(SS-024)。Santo Fortunato et al., “Science of Science,” Science 359: eaao0185, 2018(SS-025)。Yixuan Tang and Yi Yang, “AI Research Agents Narrow Scientific Exploration,” arXiv:2605.27905v2, 2026(AI-024,版本敏感)。Ana Trišović et al., “The Rapid Growth of AI Foundation Model Usage in Science,” arXiv:2511.21739, 2025(IN-027,版本敏感)。“Correlated Errors in Large Language Models,” OpenReview, 2025(AM-009,版本敏感)。Saksham Consul et al., “SciAgentArena: Benchmarking Scientific Agents on Open-Ended Research Tasks,” 2026(AI-025,版本敏感)。第十一章 为探索保留制度空间
正文 v0.4|资料截止日期:2026-07-16两种资助所允许的生活
同一位生命科学家,在两种资助制度下会过不同的研究生活。
一种资助周期较长,允许研究者改变方向,短期失败不会立刻失去经费。另一种围绕具体项目申请,目标、里程碑和续期条件更明确。前者把较多判断交给研究者,后者把较多判断提前写进评审和合同。
阿祖莱、格拉夫·齐文和曼索比较了霍华德·休斯医学研究所研究员与美国国立卫生研究院常规资助者的长期产出。前一制度下的研究者后来产生了更多高影响、较不常规的成果。[FD-001] 研究不是随机试验,入选者和机构环境可能不同,不能据此推出长期自由资助普遍优于项目资助。它至少表明,容忍早期失败和延迟回报会改变研究组合。
曼索的理论工作说明,若管理者只奖励短期成功,研究者会选择已知路线;鼓励探索需要允许试错,并延后部分回报。[FD-002] 这不等于取消考核。没有退出条件的长期资助也会保护低质量工作。
人工智能提高可执行工作的速度后,短期产出更容易满足考核,尚未形成评价器的新问题相对显得缓慢。机器不必主动压制探索,只要把可计量路线加速,就会改变研究选择。评价应当在哪个时点发生
科研制度通常在申请经费、投稿、续期和晋升时评价。每个时点都可能要求研究者提前消除不确定性。
同行评审能识别明显错误、资源不匹配和重复工作,但评审人对离自己知识前沿较远的提案更难判断。实验研究发现,专家面对较远想法时评分下降、分歧增加;资助评审分数与后续成果有一定关系,却不足以精确排序相近项目,申请者声誉也会影响判断。[FD-003;FD-004;FD-006]
这使“把所有提案排成一条精细队列”显得比实际知识更确定。改良抽签的建议,是先由专家确定合格池,再在难以可靠排序的项目中随机选择。[FD-007] 它承认评审分辨率有限,也能减少为微小评分差异投入的申请成本。[FD-016]
抽签会忽略真实质量差异,也可能被公众理解为取消专业判断。因此,它只适合在边界清楚的场景试验,并应记录申请成本、项目组合和长期结果。
发表制度还有另一种时点选择。注册报告在结果产生前评价问题与方法,只要研究按核准方案执行,阴性结果也可发表。[MR-004;MR-007] 它能减少“只有漂亮结果进入文献”的压力。
探索性研究常在过程中改变问题,强行预注册会把真实发现写成违约;人工智能还能低成本生成海量申请。注册报告适合检验性研究,不应成为所有科学活动的统一格式。
评价时点的原则是:结果越容易批量生产,制度越需要关注问题、方法和证据来源;探索越开放,越不能要求研究者事先写完发现过程。先保护哪一种差异
“保留多样性”不是无条件保存所有方法。制度应优先维护三类差异。
第一类能分离重要错误来源。两套界面不同、底层调用同一模型的系统,保护价值有限;使用不同实验技术的团队,即使规模小,也可能在主流模型共同失效时提供关键证据。
第二类能让不同现象可见。结构预测与动态测量、统计关联与干预实验、标准化高通量与低通量精细观察,不是在同一排行榜上竞争。若统一用当前产量评价,较慢的方法可能在特殊价值显现前退出。
第三类恢复成本高。一套软件算法可以存档,某些实验技能、样品库和专用设备却需要持续使用才能保存。保护强度应与不可逆性相关。
主流研究者可能夸大替代路线的无用,边缘路线也可能以“未来保险”为由逃避证据。因此,可以提供小额、阶段性的生存资源,设置独立里程碑,定期评估路线是否仍能观察不同现象、分离错误或保持关键能力。
佐尔曼关于瞬时多样性的模型说明,多样性可以是暂时的。[SS-007] 共同体需要让竞争路线存活到证据足以比较,而不是保证永远并存。给共识标注来源
多智能体和机器评审进入科学后,论文需要披露模型在研究中的作用:是否生成假设、选择实验、编写代码、分析数据、写作解释或参与评审;使用什么版本,是否调用外部检索和工具;关键输出经过何种人工核查。
披露不必要求公开全部提示或商业权重。最低标准应围绕证据独立性建立。对一个结果,读者至少应知道研究模型与评审模型是否同源,复现是否使用相同数据库和评价器,关键结论是否经过独立物理实验。
披露的用途不是把每次模型调用变成责任追踪,而是避免把数量当独立性。三篇论文若共享一个基础模型生成假设,却由不同实验室独立测量,仍可能提供强证据;十个智能体只在同一上下文互评,新增证据很少。
表格也会被形式化应付。作者可以列出多个模型,却只让一个系统决定关键步骤。因此,高风险结果还需要说明关键判断怎样形成、哪里有真正独立的检查。资助异源复现
复现缺乏职业吸引力,异源复现成本更高:它要求更换模型、数据、方法或实验平台,而不是重新运行原代码。
若共同体希望得到有效独立共识,就必须给这种工作明确回报。对基础模型广泛影响的关键结果,可以预留预算给独立团队;期刊可以设置复现栏目;重大平台部署前可以要求跨方法验证。
异源不等于故意更换所有环节。蛋白质结构预测的关键独立性可能来自实验方法;自动实验室的关键独立性可能来自目标选择和结构确认;机器生成数学证明的关键独立性可能来自形式核验和人类对概念意义的审查。制度应先识别最可能共同失效的环节,再选择不同路径。
复现资源还应在危机前存在。主流方法表现良好时,独立路线最难获得支持;等异常积累,人员和设备可能已经退出。失败数据怎样成为知识
自动实验室能记录每次配方、温度、仪器读数和产物识别,也可能把这些资料永远留在内部服务器。
开放全部失败日志并不现实。化学实验可能涉及危险合成,生物医学数据涉及隐私,商业平台依赖专有数据,原始日志还包含大量设备故障和操作噪声。
可以分层共享:低风险字段公开标准化结果;敏感数据受控访问;无法公开的项目至少公布失败类型、样本数量和选择规则,使外界知道发表结果来自怎样的试验池。记录还应包含人工介入。
共享标准必须允许更正。A-Lab 的争议说明,“实现目标相”“发现新材料”和“证明材料有价值”是不同判断。更正不能只停在论文页面,还应传播到训练数据、基准和衍生平台。
整理、匿名化、标注和维护都需要经费。若把开放写成额外道德义务,最有能力合规的大机构可能进一步占优。共享制度必须配套人员和基础设施。基础设施要有退出路径
模型、数据库和自动实验平台成为基础设施后,替换成本来自接口、格式、训练和设备。采用时就应记录退出方式。
关键平台可以维护可导出的数据格式,允许替代模型接入,保存版本与运行环境,并测试供应商中断时能否继续完成核心任务。公共资助的基础设施还可以在合同中要求数据可迁移、重大更新可追溯、关闭服务前提供过渡期。
这些要求会降低短期效率。兼容接口需要维护,多个工具链增加复杂度,故障演练占用实验时间。强度应按平台的重要性和替代难度决定。
退出路径还包括谁能改变默认值。开放代码不等于开放决策。用户是否能提出新分类,边缘领域能否加入数据,评价标准怎样修订,争议由谁裁决,决定一时选择会不会被固定下来。[IN-007;PH-027]三项制度试验
与其列出一长串原则,可以先试验三项安排。
第一,在部分资助中建立“探索组合”:同一问题同时支持一条高把握路线和一至两条方法上真正不同的路线,给替代路线较长的首轮评价期。观察它们是否产生独立证据、新测量或可恢复能力,也记录无效投入。
第二,对 AI 深度参与的高影响研究实行分层谱系披露,并为关键结论配置异源复现经费。记录披露成本、复现成功率、共同错误发现率和研究者负担,再按领域调整。
第三,在公共自动实验与数据平台中建立失败记录和退出演练。不是要求公开一切,而是验证数据能否迁移、人工能否接管、关键失败能否进入公共知识。
三项试验都可能被形式化:探索组合可能只留下名义差异,谱系披露变成合规文本,退出演练只在检查日前完成。它们仍值得试,因为每项都对应一条具体机制,也都有可观察副作用。制度不能替代判断
制度可以改变研究者面对的成本,不能规定哪条异端路线最终正确,也不能取消集中。科学需要共享标准、公共数据库和高性能工具;完全分散会造成重复和资源浪费。
治理目标是延缓不可逆退出,直到共同体拥有足够证据;形成共识后,仍保留质疑和恢复通道。
两类错误始终存在:保护太少,替代路线在价值显现前消失;保护太多,资源长期停留在没有进展的项目。评价太统一,机器容易优化同一目标;评价太碎片化,共同体难以比较结果。
当前制度很容易看见成功论文,却很少记录一条没有消失的替代路线、一支仍能接管系统的团队、一套仍可恢复的实验技能。只有把这些能力记录下来,它们才可能进入资源决定。
没有制度能保证科学永不收敛。科学必须在某些时候集中,才能把困难问题做深。较有限的目标是:让集中可以被批评,让退出可以被逆转,让失败进入公共知识。本章主要资料Pierre Azoulay, Joshua S. Graff Zivin and Gustavo Manso, “Incentives and Creativity: Evidence from the Academic Life Sciences,” RAND Journal of Economics 42: 527–554, 2011(FD-001)。Gustavo Manso, “Motivating Innovation,” Journal of Finance 66: 1823–1860, 2011(FD-002)。Kevin J. Boudreau et al., “Looking Across and Looking Beyond the Knowledge Frontier,” Management Science 62: 2765–2783, 2016(FD-003)。Danielle Li and Leila Agha, “Big Names or Big Ideas,” Science 348: 434–438, 2015(FD-004)。Ferric C. Fang, Anthony Bowen and Arturo Casadevall, “NIH Peer Review Percentile Scores Are Poorly Predictive of Grant Productivity,” eLife 5: e13323, 2016(FD-006)。Ferric C. Fang and Arturo Casadevall, “Research Funding: The Case for a Modified Lottery,” mBio 7: e00422-16, 2016(FD-007)。Kevin Gross and Carl T. Bergstrom, “Contest Models Highlight Inherent Inefficiencies of Scientific Funding Competitions,” PLOS Biology 17: e3000065, 2019(FD-016)。Christopher D. Chambers and Loukia Tzavella, “The Past, Present and Future of Registered Reports,” Nature Human Behaviour 6: 29–42, 2022(MR-007)。Brian A. Nosek et al., “Promoting an Open Research Culture,” Science 348: 1422–1425, 2015(MR-004)。Kevin J. S. Zollman, “The Epistemic Benefit of Transient Diversity,” Erkenntnis 72: 17–35, 2010(SS-007)。Jingyi Wu and Cailin O’Connor, “How Should We Promote Transient Diversity in Science?,” Synthese 201: 37, 2023(SS-011)。Helen E. Longino, The Fate of Knowledge, Princeton University Press, 2002(PH-007)。Stephen H. Kellert, Helen E. Longino and C. Kenneth Waters (eds.), Scientific Pluralism, University of Minnesota Press, 2006(PH-015)。Paul N. Edwards et al., “Understanding Infrastructure: Dynamics, Tensions, and Design,” First Monday 12(6), 2007(IN-007)。Sabina Leonelli, Philosophy of Open Science, Cambridge University Press, 2023(PH-027)。结语 科学是否拥有了更多道路
正文 v0.4|资料截止日期:2026-07-16再看那份证明
序言从一份数学证明开始。机器把问题改写成程序可以搜索的形式,生成候选,再由明确规则筛选和核验。结果若经得住数学家的检查,就是实在的进步。证明不会因为由机器找到而变轻。
同一个系统的提示词里,却专门要求“让路线多样化”。这行指令只说明一个工程事实:若目标函数奖励当前最有希望的候选,搜索会把资源聚向少数区域。设计者必须决定什么时候继续利用,什么时候去别处尝试。
科学共同体一直面对这个选择。人工智能把它放大了,因为搜索、复制、推荐和评价可以由相似系统在许多环节同时执行。我们确实得到了更多能力
蛋白质结构预测把过去昂贵、缓慢的结构信息变成公共资源。数学程序搜索找到新构造,形式证明系统提高核验能力。自动实验室可以连续运行、保存逐次失败,并从部分失败中调整配方。文献与代码工具让小型团队接触原本需要大型机构才能组织的知识。
这些变化扩大了许多研究者能够做的事。对被忽视疾病的研究者,一份公开结构预测可能是真正的新入口;对重复操作繁重的实验,自动化可能把时间转向异常诊断和问题设计。
开放基础设施可以扩散能力,多智能体协作可以改善局部质量,标准化可以使结果比较,自动记录可以让失败不再只依赖人的记忆。集中风险不能成为拒绝这些工具的理由。分析单位必须改变
通常的评估停在单个系统:准确率提高多少,能解多少题,能否完成一次实验流程。这样的评估必要,却不足以说明共同体后果。
假设来自文献和模型,实验依赖数据库与设备,论文经由评审进入下一代训练资料,资助再根据可见成果分配。一个环节的性能提升会改变其他环节的成本。候选生成变得便宜,筛选权就更重要;预测成为默认起点,实验资源会向可表示的问题移动;评审调用相似模型,共识数量会增加,来源却未必增加。
本书因此把分析单位改为由人、模型、数据、实验室、评审制度和平台组成的分布式认识系统。一个共同体可以拥有更强的成员,却只剩较少的路线;也可以在单项任务上较慢,却保留更强的纠错和恢复能力。三种进步没有自动同步
机器最容易进入问题和评价标准已经形成的任务。在这些任务中,规模化搜索和快速反馈已经带来显著成果。部分案例还产生了可延续的新构造、新配方和新实验关系。
悬而未决的是共同体层面的探索。AI 降低成本,可能让边缘问题获得资源;同一模型、数据库和评价器广泛采用,又可能让研究者从相似起点出发。两条路径可以同时发生。单个研究者接触的题目增多,不保证整个领域的理论和方法也更多。
“早熟收敛”不是对机器创造力的总评。它指共同体在替代路线得到足够检验以前就集中资源,并使退出越来越难逆转。危险不在一致本身,而在一致来得太早,还把回头路一并拆掉。数量之外还有来源
一千个智能体同意,究竟相当于多少份证据,取决于它们为何可能同时出错。共享权重、训练资料、检索库、工具和评价器的系统,能生成不同论证,却仍可能在同一盲点上失败。角色分工有用,但不能凭角色名称制造独立来源。
“合成共识”指一个观点被同源系统反复生成、引用、评审和推荐,获得广泛支持的外观。它不必是假的;问题在于支持数量超过了独立认识路径所能提供的强度。
人类科学也存在相关判断。学术训练、教材、数据库和声誉网络从来没有完全独立。人工智能使复制更快、谱系更难看见,也让同一系统可能同时进入提出与评价两端。
未来科学需要更清楚的来源记录和真正异源的检查。物理实验、不同方法传统、独立数据和不同概念框架,有时比十个品牌名称更能分离错误。解释、技能与恢复
高质量预测本身有认识和实践价值。问题出现在共同体逐渐只能调用预测,却无法判断适用范围、提出反事实或设计区分竞争解释的实验。
解释使知识能够移动:改变条件、检查异常、比较机制、发现分类不足。它不是给公众的装饰,也不要求人看懂全部参数;最低要求是共同体仍有人能够质询结果。
自动化可以保存细密记录,也会把人移出日常操作。当异常罕见时,人最难保持接管能力。方法退出若同时带走设备、材料和熟练判断,论文与代码仍在,恢复也可能十分昂贵。
因此,效率评价还应包括记录质量、人工介入、技能转移和恢复成本。今天表现最好的系统,未必是明天最容易修正的系统。基础设施中的默认值
模型、数据库和自动实验平台一旦成为共同起点,它们的分类、接口和置信度就会进入研究日常。开放使更多人获得能力,依赖也随之增加。两者不是互相取消的标签。
需要观察的是:谁能修正分类,谁能加入边缘数据,错误怎样传播更正,替代工具能否接入,平台关闭时数据能否迁移。基础设施不必中立;它至少应让选择可见,并保留修改选择的程序。现有证据到哪里为止
AI 提高若干局部任务能力,有大量直接研究。共享模型和算法可能造成相关输出,存在相邻领域的形式模型、实验和初步机器研究。科研智能体候选更集中、基础模型使用快速增长等结果,仍主要来自版本敏感的近期工作。
方法退出的长期恢复成本、真实科学异常上的跨模型错误相关、AI 采用与领域路线宽度之间的因果关系,尚缺足够资料。
所以,我们已经知道一些技术能力在增长,也看见几条可能把局部成功转成共同体集中的机制;还不能宣布科学整体已经发生早熟收敛。
如果高采用 AI 的领域长期持续产生新问题、方法和测量方式,非主流路线存续更久,中心命题就应收窄。若多模型系统的共同错误下降,异源实验复现上升,合成共识只会是局部问题。若自动化使失败更公开、技能训练更普及、系统中断后的恢复更快,方法锁定的担忧也会减弱。
若趋同主要由既有资助和发表制度解释,人工智能应被描述为加速器或放大器,而不是起因。若集中同时带来可靠累积,且替代路线在需要时能够恢复,它可能是成熟,而非早熟。为探索保留什么
制度能做的事有限:在部分资助中支持方法上真正不同的路线;披露机器参与和谱系,为关键结果资助异源复现;把失败记录、数据迁移和人工接管纳入公共基础设施维护。
这些安排都有成本,也可能被形式化应付。科学需要集中、标准和权威,否则无法累积。需要保留的是集中以前的比较时间、共识形成后的批评渠道,以及系统失败时重新选择的能力。
探索空间不等于每条路都有人走,而是共同体仍能开辟新路,也没有把所有旧路都变成无法返回的遗址。科学是否拥有了更多道路
在许多具体任务上,答案是肯定的。过去无法负担的计算和实验可以执行,更多研究者能够进入,候选空间显著扩大。一些道路已经通向新的证明、结构、配方和工具。
在共同体层面,答案还不能用一个“是”或“否”收束。道路数量取决于候选能否获得资源、方法能否独立检验、失败以后能否恢复。机器可以把一条路修得极宽,也可以帮助人们发现岔路;它还可能让所有导航系统优先推荐同一个出口。
方向由许多具体安排共同形成:模型怎样训练和调用,数据库怎样治理,评价器奖励什么,资助给谁时间,失败是否进入公共记录,基础设施是否允许替代者接入。
这些安排已经在形成。今天的一次接口选择、一项披露标准、一笔设备维护费,都会影响几年后哪些路线仍然可走。
科学最强大的时期,往往也是它在某些问题上高度集中、持续深挖的时期。集中本身不是敌人。困难在于判断:我们何时已有充分理由收束,何时只是因为同一套工具让一条路显得格外顺手。
机器会继续把顺手的路修得更快。科学共同体需要保存的,是发现别处仍有道路的能力,以及在必要时转身的能力。结语主要资料Thomas S. Kuhn, The Structure of Scientific Revolutions, University of Chicago Press, 1962(PH-001)。Thomas S. Kuhn, The Essential Tension, University of Chicago Press, 1977(PH-002)。Philip Kitcher, The Advancement of Science, Oxford University Press, 1993(PH-012)。Helen E. Longino, The Fate of Knowledge, Princeton University Press, 2002(PH-007)。Stephen H. Kellert, Helen E. Longino and C. Kenneth Waters (eds.), Scientific Pluralism, University of Minnesota Press, 2006(PH-015)。Sabina Leonelli, Philosophy of Open Science, Cambridge University Press, 2023(PH-027)。Kevin J. S. Zollman, “The Epistemic Benefit of Transient Diversity,” Erkenntnis 72: 17–35, 2010(SS-007)。Hanchen Wang et al., “Scientific Discovery in the Age of Artificial Intelligence,” Nature 620: 47–60, 2023(AI-001)。Lisa Messeri and M. J. Crockett, “Artificial Intelligence and Illusions of Understanding in Scientific Research,” Nature 627: 49–58, 2024(AI-031)。资料来源与版本说明稿件的证据范围
本稿依据项目《全书参考资料总库 v0.1》及其章级资料地图、案例档案、失败信号档案和版本观察表撰写。总库收录 206 项来源,资料截止日期为 2026 年 7 月 16 日。
本书的经验范围是 E1:系统整理和比较已有研究。正文可以提出概念、机制和可观察预测,但不宣称已经完成跨领域的大规模原创计量研究,也不把当前案例写成 AI 已经造成科学共同体整体收敛的因果证明。
正文中的方括号编号对应资料库来源,例如:PH:科学哲学、解释、多元主义;AI:AI for Science、模型与案例;SS:科学学、认知劳动分工和研究组合;AM:算法单一文化与相关错误;MR:元研究、发表偏误、复现和开放科学;TK:默会知识、自动化、技能和韧性;IN:基础设施、标准、路径依赖;FD:科研资助与评价制度;GE:代际更替与学术权威。
本稿在第十章、第十一章和结语列出主要资料,其他章节使用资料库编号,不重复附上 206 项总书目。正式出版稿应由资料总库生成完整参考文献表,并把正文中的编号转换为统一的尾注或作者—年份格式。需要在正式核验阶段刷新的材料
下列材料具有较强版本敏感性,进入事实与引用核验阶段时应重新检查论文版本、同行评议状态、作者更正和后续独立评价:AI-006:实验约束下的 AlphaFold 3 构象集合研究;AI-013、AI-016:A-Lab 论文、更正及后续争议;AI-021—AI-023:形式数学系统、循环双覆盖猜想证明及提示词记录;AI-024—AI-026:科研智能体探索分布、开放式基准和研究想法新颖性;IN-027:基础模型在科学论文中的采用测量;AM-009:跨模型错误相关性;MR-016、MR-017:AI 辅助评审操纵与发表偏误进入自动科研流程的近期研究。
这些来源在正文中只承担资料库规定的窄主张。例如,科研智能体候选更集中不能推出真实科研路线长期变窄;A-Lab 的闭环实验成功不能推出所实现目标均为科学界未知的新材料;AI 辅助评审对文本改写敏感不能推出自动评审普遍劣于人类评审。A-Lab 案例的处理
第五章使用更正后的 A-Lab 资料。更正后可稳妥表述为:系统连续运行 17 天,在 57 个目标中实现 36 个;共执行 353 个具体配方,约三成产生目标相。原先关于“新材料”的较强表述已收窄为目标对 A-Lab 及其配方模型是新的,不保证对整个科学共同体此前未知。
该案例在本稿中属于混合案例。它同时显示闭环自动实验、失败反馈和大规模操作能力,也显示目标空间、数据库、XRD 判断和人工介入的边界。它不承担共同体层面早熟收敛的因果结论。本稿仍需经过的核验
这是正文 v0.4 逐句删修稿,已经完成结构重写、主要证据边界控制与逐句必要性删修,尚不能替代以下工作:对所有版本敏感来源进行更新;对正文每一项技术数字和哲学归属进行逐条引用核验;由数学、结构生物学、材料科学、AI 技术和科学哲学读者分别审阅相关章节;检查中文译名、出版信息和尾注格式;根据异源评审意见决定是否增补、收窄或删除主张。
上述工作属于核验和修订,不影响本稿作为完整正文初稿的性质。