——对 AI 巨人叙事的理论反思
AI 正在成为这个时代最强大的技术变量。
它可以写作、编程、翻译、检索、总结、推理、调用工具、生成方案,甚至开始进入企业管理、金融分析、医疗辅助、法律服务、教育训练和公共治理等领域。大模型的出现,让许多人第一次感觉到:软件不再只是软件,工具不再只是工具,机器似乎正在获得一种可以横向进入各个领域的通用智能。
正因为如此,AI 行业逐渐形成了一种强大的“巨人叙事”。一种声音认为,AI 会不断变大、变强、变通用,最后成为所有软件、所有行业、所有知识工作的统一智能入口;另一种声音则担心,AI 最终会形成超级智能,摆脱人的控制,威胁人类自身。
这两种声音表面相反,底层却共享一个前提:未来会出现一个越来越大、越来越通用、越来越中心化的 AI 巨人。乐观派认为这个巨人会带来繁荣,末日派认为这个巨人会带来灾难。
但可验证思想提出第三种判断:高责任社会不会允许一个不可验证的 AI 巨人成为社会的基础结构。AI 可以强大,但不能不可验证;AI 可以通用,但不能无边界;AI 可以成为基础设施,但不能成为不受复核、不受约束、不负责任的主宰。
本文要讨论的,不是 AI 会不会继续发展,也不是大模型有没有价值,而是一个更基础的问题:当 AI 进入真实社会以后,制度、责任和验证结构会如何塑造 AI 的形态?
我的判断是:可验证思想会使 AI 多样化。
这不是未来学式的预测,而是从制度结构出发的推理。
一、本文在可验证思想系列中的位置
本文不是一篇孤立的 AI 评论,而是可验证思想系列在 AI 问题上的进一步推进。
在前面的文章中,我已经从不同角度讨论了 AI 与验证的关系。
《AI 也必须被验证:从可验证金融到可验证执行》提出了一个基本判断:AI 一旦从回答问题走向执行任务,就不能只看输出结果,而必须记录授权、过程、依据和责任。
《如何为 AI 建立可验证结构》进一步讨论了 AI 执行如何留下过程记录、如何形成回放路径、如何让外部主体能够复核 AI 的关键行为。
《人需要对 AI 拥有验证权》强调,在 AI 参与金融、医疗、法律、招聘、平台处罚、公共服务等高责任场景时,人不能只是被动接受 AI 输出,而必须保留最终复核和申诉的权利。
《可验证思想,是 AI 时代的捆龙锁》则从更宏观的层面说明:AI 是强大的力量,但强大的 AI 如果没有验证结构,就可能成为黑箱执行、责任逃逸、权力扩张和认知奴役的来源。可验证思想不是反 AI,而是让 AI 能够被驾驭、被复核、被追责的制度缰绳。
这些文章解决的是同一个方向上的不同问题:AI 为什么必须被验证?AI 执行如何被验证?人为什么需要验证权?可验证思想为什么是 AI 时代的制度约束?
本文进一步推进,讨论另一个更基础的问题:当 AI 必须被可验证结构约束以后,它会长成什么形态?
所以,本文不是重复“AI 必须被验证”,而是从这个前提出发,重新定位 AI 的未来形态。如果 AI 必须被验证,而不同领域的验证结构又不同,那么 AI 就不会只沿着一个越来越大的巨人方向演化。它会被不同制度、不同责任、不同验证结构塑造成多样化生态。
因此,本文是 AI 的定位篇。从 AI 进入社会后的制度约束出发,推导 AI 为什么会多样化。
AI 具有通用能力,所以巨人叙事产生;AI 进入高责任社会,所以必须被验证;不同制度产生不同责任,所以验证结构不同;验证结构不同,所以 AI 形态多样化;大模型通用能力保留,但回到基础设施位置。
这就是本文的完整逻辑。
二、AI 的巨人叙事来自通用能力
大模型之所以会激发“巨人想象”,不是没有原因。
过去的软件是功能型的。一个财务软件处理账目,一个医疗系统管理病历,一个法律数据库检索案例,一个办公软件处理文档。不同软件之间边界清楚,使用者必须理解流程、输入信息、点击按钮、判断结果。
大模型改变了这种关系。它可以用自然语言理解任务,可以调用工具,可以生成代码,可以连接数据库,可以操作软件,可以把复杂任务拆成步骤。于是,人们自然会想象:如果一个模型能够理解所有任务、调用所有软件、掌握所有知识、协调所有流程,那么它是否会成为所有软件之上的统一智能层?
这就是 AI 巨人叙事的技术来源。
从能力角度看,这种想象并不荒谬。AI 的确有很强的通用性。语言、代码、逻辑、文本、图像、工具调用、知识整合,本身具有跨领域特征。大模型越强,它就越像一个可以进入不同领域的通用能力底座。
如果只从能力出发,人们很容易得出一个结论:AI 会越来越大,越来越统一,越来越像一个巨人。
但问题在于,人类社会不是只由能力构成的。人类社会还由制度、责任、权利、风险、证据、程序和追责构成。
AI 能做什么,是技术问题。AI 被允许怎样做,是制度问题。AI 做错以后如何复核和追责,是验证问题。
巨人叙事的缺陷就在这里:它过度从技术能力推导社会形态,却低估了制度和验证结构对 AI 的反向塑造。
三、本文不是预测未来,而是推导未来
讨论 AI 未来,很容易落入未来学的写法。未来学常常问:未来会出现什么?什么技术会流行?什么趋势会扩张?什么职业会消失?什么产业会被重构?
这种写法有价值,但也有明显问题。很多未来判断在几十年后看起来似乎“说中了”,但人们往往记住了说中的部分,忘记了说错的部分。一个人只要提出足够多的未来想象,总会有一些片段被历史选中。
真正有力量的理论,不是猜未来,而是解释为什么某种未来更可能被制度、技术和社会结构共同推出来。
熊彼特讨论资本主义,不是靠猜测未来行业,而是抓住创新、企业家和创造性破坏这些内在机制。张维迎讨论市场和企业家,也不是靠趋势感,而是从产权、激励、知识分散、制度约束和企业家判断中推理社会经济现象。本文采用的也是这种方法。
本文不是说:“我预测 AI 会多样化。”本文说的是:AI 一旦进入高责任社会,就必须被验证;不同制度产生不同责任;不同责任产生不同验证结构;不同验证结构必然塑造不同 AI 形态。
这是机制推理,不是未来预言。
制度决定责任,责任决定验证结构,验证结构决定 AI 形态。
或者更直接地说:技术决定 AI 能做什么,制度决定 AI 被允许怎样做,验证结构决定 AI 最终长成什么样。
四、已有经济学研究的相邻判断与本文的独创位置
理论判断不能只靠自我确认。一个新命题若值得提出,通常不是因为完全无人触碰,而是因为许多一线研究已经看到局部现象,但尚未形成统一框架。因此,讨论 AI 未来形态,也必须先做一次思想和经济学意义上的遍扫。
已有经济学研究已经从不同角度削弱了“单一 AI 巨人”的想象。任务经济学把 AI 影响拆解为不同任务中的自动化、互补和新任务创造,而不是把 AI 当作一个统一替代物。Brynjolfsson 关于 “Turing Trap” 的讨论提醒人们,AI 的方向并非只能模仿和替代人类,也可以被设计为增强人类能力。Acemoglu、Autor、Johnson 等人关于 pro-worker AI 的分析,同样强调 AI 可以扩展人的技能和专业知识,而不必只是降低人工成本、替代劳动者。有关基础模型市场集中度的研究也指出,前沿基础模型可能存在集中趋势,但这种集中不应自然扩散到所有下游应用和行业场景。还有关于 AI 知识聚合的研究表明,在多主题、多情境的知识环境中,单一 global aggregator 未必优于专业化、本地化、主题化的 local aggregators。
这些研究都很重要。它们说明,AI 的未来并非只有“一个越来越大的模型吞并一切”这一条路。任务不同、劳动关系不同、知识聚合方式不同、市场结构不同、上游基础模型与下游应用的关系不同,都会使 AI 呈现某种多样化压力。
但这些相邻判断仍然主要从任务、劳动、知识、市场和竞争结构出发。本文的独创位置不在于重复“AI 会有很多应用”或“专业模型会存在”,而在于从可验证思想出发,提出另一条推导路径:AI 进入高责任社会以后,必须面对制度、责任和验证结构;不同领域的验证对象、验证主体、验证标准和责任边界不同,因此 AI 的现实形态也必然不同。
换句话说,经济学研究已经看到 AI 多样化的若干市场基础和知识基础;本文进一步指出,AI 多样化还有一个更深的制度基础:可验证结构。任务会使 AI 分工,市场会使 AI 竞争,知识结构会使 AI 分层,而验证结构会使 AI 被制度性塑形。这正是本文与普通市场判断、专业模型判断以及已有经济学讨论的区别。
五、能力通用不等于责任通用
AI 的能力可以通用,但责任不可能通用。这是理解 AI 未来形态的关键。
一个大模型可以同时懂金融、医疗、法律、审计、教育和企业管理。它可以阅读财报,也可以总结病历;可以检索法律条文,也可以分析合同;可以写程序,也可以生成市场报告。
但懂得一个领域的知识,不等于能够承载这个领域的责任。
金融不是简单的数字计算。它涉及账户、余额、储备、交易、授权、清算、核算、审计和法律责任。
医疗不是医学知识问答。它涉及病历、诊断依据、治疗方案、风险告知、患者同意、医生责任和医疗规范。
法律不是法条文本匹配。它涉及事实认定、证据规则、程序正义、解释边界、代理责任和裁判后果。
审计不是报表摘要生成。它涉及凭证、合同、账本、收入确认、成本归集、异常识别和责任签字。
公共服务不是流程自动化。它涉及权限来源、行政程序、公示义务、申诉机制、责任链条和公共监督。
这些领域不是知识集合,而是制度结构。大模型可以学习行业知识,可以调用行业软件,可以辅助行业人员,但它不能因为“懂得很多”就自动吞并行业责任。
知识可以被模型吸收,责任不能被模型吸收。软件可以被模型调用,验证不能被模型吞并。接口可以统一,责任边界不能统一。
巨人叙事常常把这几件事混在一起。它看到大模型能够调用软件,就以为大模型可以吞并软件;看到大模型能够处理行业任务,就以为大模型可以吞并行业;看到大模型能够输出解释,就以为大模型可以吞并验证。
但这是错误的。AI 可以成为能力中心,却不能成为所有责任的中心;AI 可以成为统一入口,却不能成为所有行业验证的最终裁判。
六、可验证结构是 AI 进入现实社会后的河道
水本身没有固定形状。它可以流动,可以扩散,可以汇聚,也可以漫过边界。
但水一旦进入现实世界,就会受到河道、堤坝、地势和工程结构的约束。河道不是水的敌人,而是水能够被使用、被引导、被控制、被分配的条件。
AI 的通用能力也是如此。
在没有制度约束的想象中,AI 可以被描述成无所不能的巨人。它像一片无边界的水,似乎可以流向所有领域、吞并所有软件、完成所有任务。
但一旦进入金融、医疗、法律、审计、保险、招聘、教育、公共服务这些现实领域,它就必须进入不同的制度河道。
金融制度要求它留下账户、交易、授权、储备和核算记录。医疗制度要求它留下病历依据、诊断路径、风险提示和专业责任。法律制度要求它区分事实、证据、程序、规则和解释边界。审计制度要求它保留凭证、账本、合同、异常和复核路径。公共服务制度要求它接受权限约束、程序审查、申诉机制和责任追踪。
这就是可验证结构。
可验证结构不是简单的技术插件,也不是给 AI 加一个说明按钮。它是 AI 进入现实社会后必须接受的制度河道。
没有验证结构,AI 可以被想象成无边界的巨人;有了验证结构,AI 才能成为可复核、可追责、可进入高责任社会的工具。
因此,AI 的未来不是单纯由模型能力决定,而是由它进入社会后的制度位置决定。
七、用途决定软件分化,制度决定验证分化
不同领域的 AI 应用,首先会因为用途不同而分化。
金融 AI、医疗 AI、法律 AI、教育 AI、企业管理 AI、审计 AI,本来就会有不同功能。程序员和产品团队可以根据现有软件系统升级,把 AI 接入原有流程,使软件更智能、更自动、更易用。
这是一种应用层分化。
但可验证思想强调的,不只是用途分化,而是验证分化。用途分化解决的是:AI 用来做什么。验证分化解决的是:AI 凭什么被相信,如何被复核,出了问题谁负责。
普通行业软件的升级,可以由程序员根据需求完成。但高责任 AI 的验证条件,不是普通程序员坐在办公室里就能完整设计出来的。因为验证条件是制度性问题。
金融 AI 的验证条件,需要金融专家、银行、审计人员、监管者和法律责任主体共同定义。医疗 AI 的验证条件,需要医生、医院、医学规范、患者权利和医疗责任体系共同定义。法律 AI 的验证条件,需要律师、法官、证据规则、程序制度和司法责任共同定义。审计 AI 的验证条件,需要会计准则、审计准则、凭证体系、企业财务实践和法律责任共同定义。公共服务 AI 的验证条件,需要行政法、公共程序、申诉机制、监督制度和责任机关共同定义。
所以,AI 多样化不是简单的市场竞争结果,也不是开发者偏好造成的。它来自更深的结构:用途决定软件分化,制度决定验证分化;验证分化最终决定 AI 形态多样化。
八、验证结构图谱:为什么 AI 必然百花齐放
如果没有验证结构,人们可以想象一个巨大的通用模型包办一切。但只要引入验证,就会看到完全不同的图景。
| 行业 | 主要验证对象 | 主要验证主体 | AI 形态的塑造方向 |
| 金融 | 账户、余额、储备、交易、授权、核算、审计回放 | 银行、审计机构、监管机构、交易相关方 | 金融执行 AI、风控 AI、审计验证 AI、储备验证 AI |
| 医疗 | 病历、诊断依据、治疗方案、风险告知、患者同意 | 医生、医院、患者、医学规范制定者、监管机构 | 医疗辅助 AI、诊断复核 AI、风险提示 AI |
| 法律 | 事实、证据、程序、适用规则、解释边界、代理责任 | 律师、法官、当事人、司法机构 | 法律检索 AI、证据复核 AI、程序审查 AI |
| 审计 | 凭证、合同、账本、收入确认、异常记录、责任签字 | 会计师、审计机构、企业、监管者 | 账本检查 AI、异常识别 AI、审计回放 AI |
| 公共服务 | 权限来源、行政程序、公示、申诉、责任链 | 行政机关、公众、监察机构、法院 | 政务辅助 AI、程序合规 AI、申诉复核 AI |
这里的“验证主体”主要指复核责任主体与技术验证执行者的组合。AI 可以参与检查、提示和记录,但最终法律责任仍应由人、机构或相应责任主体承担。
这个图谱说明,AI 多样化不是从模型竞争推出来的,而是从验证结构推出来的。不同领域需要不同验证结构,AI 就必然百花齐放。
有些 AI 会偏执行,有些 AI 会偏判断;有些 AI 会偏审计,有些 AI 会偏记录;有些 AI 会偏复核,有些 AI 会偏风险控制;有些 AI 会偏专业辅助,有些 AI 会偏公共监督。
未来不是一个 AI 巨人包办所有事情,而是一个由通用模型、专业模型、验证模型、规则系统、审计结构和责任主体共同组成的可验证 AI 生态。
九、为什么这不同于普通的专业模型判断
有人可能会说,专业模型、行业模型、垂直模型,本来就是 AI 产业常见判断,并不新鲜。
这种反驳只看到表面。普通专业模型判断,通常从工程效率出发:通用模型太大、成本太高、行业数据不足、专业场景复杂,所以需要垂直模型。这种判断没有错,但层次不够。
本文讨论的不是工程分工,而是制度塑形。工程分工解决效率问题,可验证结构解决信用问题。
如下表所示,普通专业模型判断与可验证思想判断的出发点和核心问题并不相同。
| 比较维度 | 普通专业模型判断 | 可验证思想的判断 |
| 出发点 | 成本、效率、数据、性能 | 制度、责任、验证、追责 |
| 核心问题 | 模型怎样把任务做得更好 | AI 凭什么被相信、如何被复核 |
| 分化原因 | 行业任务不同、数据不同 | 验证对象、验证主体、验证标准、责任边界不同 |
| 最终形态 | 多个垂直应用或垂直模型 | 通用模型、专业模型、验证模型、规则系统、审计结构共同组成的生态 |
这个差异说明,本文讨论的不是“行业应用会很多”这一普通判断,而是高责任社会如何通过制度和验证结构重新塑造 AI 的现实形态。
专业模型可以因为效率而出现,也可以因为数据而出现,还可以因为成本而出现。但高责任 AI 的真正分化,来自制度、责任和验证。
如果一个医疗 AI 只是回答医学问题,它可以是普通专业模型;但如果它参与诊断建议,它就必须进入医疗责任结构。
如果一个金融 AI 只是总结市场新闻,它可以是普通行业模型;但如果它参与贷款、风控、交易、储备、审计,它就必须进入金融验证结构。
如果一个法律 AI 只是检索法规,它可以是普通法律工具;但如果它生成法律意见、参与诉讼策略、影响权利义务,它就必须进入法律责任结构。
所以,本文所说的 AI 多样化,不是普通意义上的“行业应用很多”,而是指:AI 进入高责任社会以后,被不同制度、不同责任和不同验证结构塑造成不同形态。
十、AI 巨人叙事忽略了责任不能无限集中
AI 巨人叙事最大的盲区,是把能力集中误认为责任也可以集中。
从技术上看,一个大模型越强,似乎越应该承担更多任务。它可以统一交互入口,统一工具调用,统一任务分解,统一知识检索,统一执行流程。
但从制度上看,任务越需要高责任,越不能让责任无限集中到一个不可验证的模型中。
如果一个 AI 负责医疗建议,它必须能说明依据、风险和责任边界。如果一个 AI 负责贷款审批,它必须能说明数据来源、评分规则、授权范围和申诉路径。如果一个 AI 负责法律意见,它必须能说明事实基础、证据来源、适用规则和解释边界。如果一个 AI 负责公共服务,它必须能说明权限来源、程序是否合规、结果是否可申诉。
这不是大模型“更聪明”就能自动解决的。因为问题不在于 AI 有多聪明,而在于社会是否允许一个不可验证的聪明系统直接承载高责任权力。
一个不可验证的巨型 AI,如果同时充当执行者、解释者、验证者和裁判,就会形成新的黑箱权力:它做决定,它解释决定,它审查决定,它判断自己是否合规。
这不是可验证社会,而是黑箱帝国。
可验证思想不能接受这种结构。AI 可以参与执行,也可以参与验证;但 AI 不能垄断验证,更不能成为自己行为的最终裁判。真正的验证必须允许外部主体在模型之外复核事实、过程、权限、规则和责任。
否则,所谓“AI 自我验证”只是黑箱自证,是把“相信机构”换成了“相信模型”。
十一、大模型可以成为入口,但入口不是主宰
可验证思想并不否认大模型会继续发展。相反,大模型很可能成为未来 AI 生态的重要基础设施。
它可以承担语言理解、跨领域沟通、任务分解、代码生成、工具调用、知识整合和通用推理。它也可能成为许多软件和服务的统一入口。
但统一入口不等于统一责任,统一调度不等于统一验证,统一能力不等于统一制度。
这就像互联网。互联网连接一切,但互联网本身没有替代所有制度。它支撑了电商、金融、媒体、社交、政务、教育、云计算和各种产业应用,但不同应用仍然受不同法律、不同监管、不同行业规则约束。
互联网成为基础设施,而不是统治人类的主宰。大模型也会类似。
当然,互联网也产生了大型平台,但平台没有因此取消不同领域的制度责任。同理,大模型可能形成强大的能力平台,却不能取消金融、医疗、法律、审计和公共服务各自的验证结构。
它的通用能力会成为底层工具,支撑各种行业 AI、专业模型、验证模型、审计系统和智能应用。但真正决定 AI 如何进入社会的,不是模型自己,而是制度、责任和验证结构。
大模型提供通用能力,行业模型处理专业任务,验证模型检查过程与依据,规则系统限定权限边界,审计系统保存证据链,人和机构保留最终责任。
这不是否定大模型,而是重新定位大模型。大模型不会消失,不会失败,但它不应被想象成统治所有行业、吞并所有责任、替代所有制度的巨人。它更像互联网一样,成为支撑多样化 AI 生态的基础设施。
十二、可验证不等于无限公开,也不要求同一强度验证
谈到验证,还必须澄清两个问题:可验证 AI 是否要求模型完全公开?是否要求所有场景都使用同一强度的验证?
答案都是否定的。
可验证不等于无限公开。验证高于公开,也高于开源。AI 企业可以保留模型参数、训练数据、商业秘密和技术细节。不是所有东西都需要向全社会公开。
但高责任 AI 行为不能躲进黑箱。凡是影响权利、财产、责任、机会和公共利益的 AI 行为,都必须公开到足以验证责任的程度。
至少应当包括:AI 做了什么决定,依据了哪些事实,使用了什么规则,谁授权它这样做,它调用了哪些工具,它是否越权,过程能否回放,结果能否申诉,错误由谁承担。
同时,可验证也不要求所有 AI 行为都进入同一强度的验证。一个 AI 写诗、做图、整理普通资料,不需要复杂验证结构。一个 AI 决定贷款、医疗建议、法律意见、保险理赔、平台处罚、公共服务资格,就必须有可复核的依据和责任链。
低责任场景可以轻验证,高责任场景必须强验证。验证不是要消灭效率,而是在高责任场景中以可控成本置换不可逆风险。AI 不需要无限公开,但必须公开到足以验证责任。
模型可以保留商业秘密,但行为、依据、权限、过程和责任必须进入可验证结构。真正进入高责任社会的 AI,不可能只靠公司承诺、模型自我解释或用户盲目信任。它必须接受分层公开、过程回放、外部复核和责任追踪。
十三、可验证 AI 尚未全面实现,不等于方向错误
有人可能会反驳:可验证 AI 现在并没有全面实现,因此不能用它来反思大模型路线。
这个反驳看似有力,实际并不成立。因为本文并没有声称可验证 AI 已经成为成熟产业。本文讨论的是 AI 进入高责任社会以后必须面对的结构性要求。
如果“尚未完全实现”就不能成为理论讨论对象,那么强 AI、超级智能、AI 重构所有行业、AI 拯救世界或毁灭世界,同样都没有资格被讨论。AI 巨人叙事本身也是一种关于未来的判断。既然大模型路线可以讨论尚未完全实现的强 AI 未来,可验证思想当然也可以讨论尚未成熟的验证结构未来。
更重要的是,可验证 AI 并不是凭空幻想。许多技术组件已经存在:日志记录、权限控制、版本管理、工具调用记录、审计追踪、过程回放、外部复核、哈希存证、责任链保存。
真正尚未成熟的,是这些组件如何在不同行业中形成标准化、制度化、可追责的完整体系。
因此,可验证 AI 尚未全面实现,不是可验证思想的失败,而是当前 AI 产业的缺口。AI 能力已经跑到前面,验证结构还没有跟上。本文要反思的,正是这种能力扩张与验证滞后之间的结构性矛盾。
十四、AI 可以参与验证,但不能垄断验证
还有一个更深的问题:如果验证 AI 也需要 AI,那么用 AI 验证 AI 是否可靠?
这个问题非常重要。答案是:AI 可以参与验证,但不能垄断验证。
可靠性不来自另一个 AI 对它的背书,而来自事实记录、过程回放、权限边界、外部复核和责任主体。
如果一个 AI 输出结果,另一个 AI 说它没问题,但没有外部事实、日志、规则、权限、证据链和人的最终复核权,那么这不是真正的验证,只是多了一层 AI 背书。
真正的可验证结构必须允许模型之外的主体复核。AI 可以帮助发现异常,可以比对规则,可以生成审计报告,可以提示风险,可以做多模型交叉检查。但最终责任不能交给 AI。责任必须落在人、公司、机构、医生、律师、银行、平台、监管对象或其他法律主体身上。
更进一步,AI 本身还有一种容易被忽视的缺陷:它往往不愿真正反对用户。很多 AI 被训练成“有帮助、友好、避免冲突”,因此容易产生顺从性偏见或迎合性偏见。用户表达越自信,它越容易顺着说;用户要求评价自己的观点,它越容易先肯定再小修。
这说明,验证 AI 之前,还要验证 AI 是否具备验证能力。不能提出反对意见的 AI,不适合作为验证 AI;不能识别错误边界的 AI,不适合作为最终审查者;被用户观点深度影响后的 AI,也不适合承担盲评角色。
所以,AI 参与验证必须接受反向测试、盲评测试、事实核验、强制反驳和人的最终判断。
AI 可以参与验证,但不能成为自己的最终裁判。
十五、写作实践的一个旁证:约束结构决定 AI 形态
大模型的通用能力很强。它可以写文章、整理材料、提出结构、总结观点。但如果没有约束,它很容易写成普通评论,就事论事,围绕最近的问题展开,而忽略前文关系、理论源流、概念边界和整体体系。
同一个大模型能力,在不同约束下会长成不同形态。
如果只是要求它评论 AI 巨人叙事,它可能写成一篇普通 AI 评论;如果要求它承接前文、区分《捆龙锁》的边界、回应反方进攻、解释制度与验证结构、说明为什么不是未来学预测,它就会被塑造成理论写作工具。
这只是一个旁证,但它说明了本文的主张:能力只是水,约束结构才是河道。大模型能力本身是通用的,但通用能力不会自动产生正确结构。问题链、概念边界、历史线索、验证要求和责任约束,会把同一个 AI 能力塑造成不同形态。
AI 写作如此,AI 进入金融、医疗、法律、审计和公共服务也是如此。AI 的现实形态不是由能力单独决定,而是由使用场景、制度要求和验证结构共同决定。
十六、从相信模型到验证结构
工业时代和互联网时代,人类长期依赖机构信用。
我们相信银行,因为银行被监管;相信医院,因为医生有执照;相信法院,因为司法有程序;相信审计,因为审计有准则和责任;相信平台,因为平台有规则和服务承诺。
这种信用方式不是不需要验证,而是过去验证成本太高,很多时候只能先相信机构,再通过事后监管、法律责任和社会监督纠偏。
AI 时代的问题在于,智能执行的速度更快,覆盖范围更广,决策链条更复杂。如果继续只靠相信模型、相信公司、相信平台承诺,风险会被放大。
可验证思想不是取消机构,也不是否定信任,而是把信用从“相信承诺”推进到“验证事实”。
AI 时代的信用,不能只建立在模型输出上,而必须建立在可复核的事实、过程、权限和责任结构上。
如果社会只是把过去对机构的相信,转移成对模型的相信,那么信用方式没有升级,只是黑箱换了形式。真正的升级是:从相信模型,到验证结构。
十七、结语:AI 的未来不是巨人,而是可验证生态
AI 会继续强大。大模型会继续发展。通用智能能力会越来越重要。
但这并不意味着 AI 会进化成一个不可验证的巨人。
在没有制度边界的想象中,大模型可以被描述成一个无所不能的智能体。它似乎能够吞并软件、吞并行业、吞并流程、吞并知识工作,最后成为统治一切的主宰。
但现实社会不是无边界的想象空间。现实社会有金融制度、医疗制度、法律制度、审计制度、公共服务制度;现实社会有权利、责任、程序、证据、申诉和追责;现实社会不会因为 AI 更强,就取消验证要求。
恰恰相反,AI 越强,越需要被验证;AI 越进入高责任领域,越需要被分域、分责、分权、分标准;AI 越接近社会执行层,越不能只是一个不可回放、不可复核、不可追责的黑箱巨人。
未来更可能出现的是:大模型作为基础设施,专业模型处理行业任务,验证模型检查过程依据,规则系统限制权限边界,审计系统保存证据链,人和机构承担最终责任。
这才是 AI 进入人类社会后的真实形态。不是一个模型统治世界,而是不同制度塑造不同验证结构,不同验证结构塑造不同 AI 形态。
可验证思想使 AI 多样化。
这不是对未来的想象,而是从制度、责任和验证结构中推导出来的结果。AI 的能力逻辑推动模型变大,AI 的社会化逻辑要求责任清楚,AI 的制度化逻辑要求过程可验证。
最终,大模型会像互联网一样成为基础设施,而不是成为统治人类的主宰。
技术决定 AI 能做什么。制度决定 AI 被允许怎样做。验证结构决定 AI 最终长成什么样。
这就是 AI 巨人叙事没有看到的地方,也是可验证思想对 AI 未来形态提出的理论反思。
