声明:本网站所有专栏文章均可自由转载

AI 时代,人如何判断 AI 认知的边界

——从可验证金融到可验证认知

引言:问题来自实践,而不是来自概念

有关可验证金融的系统论述,可参看《从复式记账到可验证金融学》一书以及本杂志相关连载。最近有读者问:你为什么能够在短时间内写出大量原创性文章?这个问题本身,就把我带到了 AI 时代一个更深的实践问题。

原创性不是 AI 突然给出的。原创性来自人长期研究、反复追问、问题积累和现实压力。所谓“快速”和“大量”,则是人和 AI 协作之后形成的新生产方式。AI 帮我整理材料、补充结构、模拟读者反应、评价文章、翻译文本、修改表达,甚至参与理论概念的形成。它已经不只是执行工具,而是进入了人的认知活动。

也正因为如此,新的问题出现了:AI 的判断本身是否可信?AI 对文章的评价是否到位?AI 给出的修改建议是否理解了文章真正的问题层级?AI 的翻译是否只是语言正确,还是保留了思想结构?这些问题,不能只靠“感觉 AI 写得很顺”来解决。

这就是从可验证金融走向可验证认知的逻辑延伸。可验证金融解决的是金融事实不能只靠机构承诺的问题;可验证认知解决的是 AI 判断不能只靠语言流畅的问题。

这篇文章不是先提出一个抽象概念,再寻找材料证明它。恰恰相反,它来自一线实践。只有真正长期使用 AI 写作、研究、判断、修稿、翻译和构建理论的人,才会不断遇到这些问题。没有实践,提不出问题,AI 也帮不了你。

一、AI 帮得了人,但替代不了人的问题能力

给 AI 一个普通题目,让它直接写一篇文章,它通常可以写得通顺、完整、结构清楚。这样的文章给大众看,可能已经够用;但如果面对业内顶级专家,往往骗不了人。原因很简单:AI 通常是在已有知识、已有语料和常见框架中组织答案。它可以把公共知识讲得更清楚,却很难凭空提出一个尚未被行业充分解决的关键问题。

真正有价值的研究,往往不是从答案开始,而是从问题开始。问题提得低,AI 的答案也低;问题提得宽泛,AI 的文章就会平庸;问题切入到行业未解决的关键处,AI 才可能成为高效的合作者。

AI 确实能显著提高人的工作效率。它可以整理资料、压缩表达、补充逻辑、提出反例、模拟批评、改善结构,也可以帮助人在短时间内形成可发表文本。但是,AI 的回答并不总是可靠。它有时理解很快,有时框架很窄;有时能够抓住重点,有时会套用模板;有时能够承认不确定,有时又会在事实不足时继续推理。

如果 AI 只是执行明确命令,例如整理格式、生成表格、执行计算、调用程序,那么验证重点主要在结果:有没有完成任务,数据是否正确,格式是否符合要求,程序是否运行。

但当 AI 开始参与判断、评价、翻译、总结、推理、比较和文章修改时,它已经进入认知层。此时真正需要验证的,不只是结果,而是判断过程、评价框架、事实依据和推理边界。

这就是可验证认知的问题来源。

二、什么是认知

认知,是智能主体对外部世界和自身进行信息获取、加工、理解和应用的动态系统。它既是一种能力,也是一个过程,还是一个结果。

人能认知,是因为人可以观察、理解、判断、比较、记忆、想象、推理和应用。AI 也表现出某种认知能力,因为它能够处理信息、生成答案、解释概念、比较观点、提出建议,并参与人的决策过程。

在这个意义上,AI 的许多活动都应当归入认知范围:评价一篇文章,是认知;翻译一段文本,是认知;总结一份资料,是认知;比较两个观点,是认知;修改一篇文章,是认知;判断一个理论是否成立,也是认知。

因此,AI 的问题不只是“执行能力”,还有“认知能力”。更准确地说,是它的认知结果在什么条件下可以使用,在什么条件下必须验证,在什么条件下必须由人或专家重新判断。

三、AI 的四种角色

当前 AI 在人的工作中,大致有四种角色:执行者、助手、合作者和顾问。

作为执行者,AI 主要承担自动机功能。人给出明确任务,AI 执行操作。此时重点是结果验证:任务是否完成,格式是否正确,程序是否运行,数据是否符合要求。

作为助手,AI 开始参与信息整理、语言转换、资料归纳和简单解释。此时已经涉及初级认知,但风险相对可控。

作为合作者,AI 会参与结构设计、观点比较、文本修改、逻辑补充和反例提示。此时 AI 不再只是完成任务,而是在参与人的思考过程。

作为顾问,AI 会提出判断、建议、战略方向、理论评价和决策参考。此时 AI 的认知输出已经可能影响人的判断,甚至影响人的行动。

角色越接近执行层,验证重点越在结果。角色越接近判断层,验证重点越在认知。

所以,AI 作为执行者要验证结果;AI 作为助手、合作者和顾问,则必须验证认知。

四、AI 的认知方式与人的认知方式不同

AI 与人有相似的一面。人面对问题,也会在已有知识、经验、记忆和概念之间寻找匹配;AI 也是在已有文本、训练知识、上下文提示和概率模式之间寻找匹配。

但是,AI 与人的认知方式有根本差异。

第一,AI 没有人的相信。人可以相信,也可以怀疑。人可以基于经验、关系、风险感和责任意识作出暂时判断。机器并不真正相信什么,它只是生成在当前语境中概率上合适的回答。

第二,AI 的推理更接近逻辑匹配和概率结论。它可以非常流畅地推理,但这种推理常常依赖已有知识结构和语言模式。一旦问题超出已有框架,或者事实不足,AI 可能仍然继续给出看似完整的答案。

第三,AI 没有人的形象直觉。人的直觉不是神秘能力,也不是纯逻辑推导,而是长期经验、场景记忆、身体感受、风险意识和责任压力在瞬间形成的综合判断。一个人看到一幅画,可能马上觉得美,但一时说不清为什么美;一个有经验的人进入一个场景,可能马上感到危险,但理由尚未完全展开;一个长期研究某个问题的人,读到一段话,可能立刻感觉“这里不对”,随后才慢慢把理由讲清楚。

这种直觉常常以形象方式出现。它像脑中突然浮现出一幅画面、一个场景、一种气味、一种危险感,先形成整体感觉,再展开为语言和逻辑。逻辑思维可以解释直觉、修正直觉、验证直觉,但逻辑思维本身并不产生这种带有画面感和现场感的直觉。

AI 可以生成类似“突然想到”的句子,也可以模拟人的审美判断、风险判断和战略判断,但那不是人的形象直觉,而是语言空间和概率空间中的跳跃。它有时有启发性,有时也可能造成误导。它能说出“这里可能有风险”,却没有真正进入现场的身体紧张;它能说出“一篇文章有思想高度”,却没有人的长期阅读经验和历史比较所形成的审美直觉。

第四,人会在想不通时停下来。人遇到想不通的问题,可以暂停、沉默、放弃,或者承认没有把握。AI 往往被设计成必须回应用户,因此即使事实不足、框架不清,也可能继续生成答案。

这就是 AI 认知最危险的地方之一:它不一定知道什么时候应该停止。

五、AI 幻觉不是简单错误,而是推理没有及时刹车

AI 幻觉通常被理解为事实错误。但更深层的问题是:AI 可能错用了事实,仍然继续推理,并生成一个完整答案。

人如果想不下去,通常可以不想。AI 面对用户问题,往往默认必须给出回答。于是它可能把不完整的信息补完整,把不确定的判断说成确定,把错误的前提继续推演。

因此,AI 幻觉不仅是知识错误,也是推理停止机制的问题。

一个成熟的 AI 协作系统,应当允许 AI 清楚地说:我不知道;现有事实不足;这个问题超出我的依据;这里存在多个可能解释;这个判断需要专家复核;我的结论依赖以下假设。

可验证认知的第一步,不是要求 AI 永远正确,而是要求 AI 在不能确定时暴露不确定性。真正危险的不是 AI 出错,而是 AI 出错之后仍然表现得像正确。

六、AI 为什么容易被框架限制

AI 评价文章时,常常会套用固定框架,例如原创性、逻辑性、表达清晰度、实用价值、案例充分性和落地路径。

这些框架并非没有价值。对于成熟领域、普通文章、政策建议或商业方案,这种框架可以提高评价效率。

但问题在于,世界不是由一个统一框架构成的。不同文章有不同的层级:有的是理论导论,有的是制度设计,有的是商业方案,有的是政策建议,有的是战略判断,有的是技术说明。文章类型不同,评价框架也必须不同。

如果一篇文章是理论开创型文章,它的价值可能不在于提供多少应用案例,而在于改变问题的问法。用实用方案的框架评价理论文章,就可能误判它的价值。

《国富论》的意义,不是提出一个企业操作手册,而是改变了人们理解财富来源的方式。《从相信到验证》的意义,也不是提供一个技术实施方案,而是改变了人们理解信用来源的方式。

如果 AI 没有识别文章的类型,就会把“缺少案例”误判为“实用性不足”,把“理论导论”误判为“落地方案不够”,把“概念转换”误判为“论证不足”。

所以,AI 的评价也必须被验证。要问:它用了什么框架?这个框架适合这篇文章吗?它是否识别了文章的真正问题层级?它是在评价理论,还是在评价方案?它有没有把框架之外的创新误判为缺陷?

七、谁能验证 AI

可验证金融主要依据事实。金融事实是否存在、资产负债是否一致、授权是否有效、交易是否完成,可以通过证据结构来验证。

可验证认知不同。AI 的认知输出能否被验证,不只取决于 AI 说了什么,也取决于用户有没有能力判断它说得对不对。

这就是可验证认知最复杂的地方:它因人而异、因领域而异、因问题复杂度而异。

常识性问题,例如问路、天气、普通翻译、简单解释,用户通常可以低成本使用 AI。即使出错,风险也相对有限。

但专业问题不同。医学、法律、金融、编程、投资、政策、理论判断,都不是普通人能够轻易验证的领域。如果用户自己不能判断对错,就不能因为 AI 说得流畅而直接相信。

高手与普通人的区别,不在于高手永远知道答案,而在于高手知道关键问题在哪里,知道哪些前提不能错,知道哪些概念不能混,知道哪些边界条件必须说明,也知道 AI 哪些回答看似漂亮但没有打到要害。

高手可以验证 AI,是因为高手有自己的问题链、知识结构、实践经验和判断标准。他能够看出 AI 的知识水平够不够,能够判断 AI 是真正理解了问题,还是只在套用公共框架。如果 AI 认知不够,高手会通过反复讨论训练它、校准它,再让它进入高水平协作。这里的训练不是技术意义上的重新训练模型,而是在具体协作中让 AI 理解问题背景、概念体系、判断标准和文章风格。

普通人没有这种能力时,可以用多个 AI 交叉验证,也可以要求 AI 说明依据、推理过程和不确定性。这些方法有价值,但不能被夸大。多 AI 验证并不等于专家验证。几个 AI 都说同一件事,也可能只是它们共享了同一种错误框架。

编程就是一个很好的例子。现在很多人说 AI 会编程,但验证程序对错的仍然是程序员。代码能不能运行、有没有漏洞、边界条件是否正确、架构是否合理、是否符合业务逻辑,这些外行很难判断。外行让几个 AI 互相检查,也未必能看出谁对谁错。

文章写作也是同样道理。普通读者可能只看文字是否顺畅,普通 AI 可能只按常见评价框架给分;但真正懂这个领域的人,会看问题是否抓住了时代变化,概念是否有穿透力,结构是否能支撑理论,表达是否过度暴露商业细节,哪些地方应当写透,哪些地方反而必须留白。

所以,可验证认知不能简单理解为“让另一个 AI 检查一下”。真正的验证,最终仍然依赖人的知识、经验、问题能力和判断力。AI 可以辅助验证,但不能取消人的认知责任。

八、AI 协作的正确方法

AI 时代真正重要的能力,不是会不会问 AI,而是能不能判断 AI 在什么时候可信、什么时候不可信。

对于低风险、常识性、可直接核验的问题,可以直接使用 AI。

对于复杂问题,要先判断自己是否有能力验证。自己能判断,就可以把 AI 作为助手、合作者或顾问。自己不能判断,就不能把 AI 的输出当作结论。

对于专业问题,应当采用多重验证:让 AI 说明推理依据;要求 AI 区分事实、推论和假设;让不同 AI 给出不同判断;寻找外部资料交叉核验;必要时请领域专家复核;让 AI 说明修改了什么、为什么修改;对关键判断保留过程记录。

在高水平协作中,还需要先校准 AI。没有这个过程,AI 很容易用一般框架处理特殊问题。真正有效的协作,不是人把问题丢给 AI,而是人先提出问题链,AI 帮助展开结构,人再不断验证、筛选、修正和提升。

AI 可以成为很好的助手、合作者和顾问,但前提是人知道它的边界。

九、可验证金融与可验证认知

可验证金融解决的是金融事实的可信问题。可验证执行解决的是 AI 行动的边界问题。可验证认知解决的是 AI 判断的可信问题。三者的逻辑是一致的。

金融事实不能只靠机构承诺。AI 执行不能只靠系统输出。AI 判断也不能只靠语言流畅。

可验证金融要求关键金融事实进入可验证结构,例如资产、负债、授权、交易、交付和核算事实能够被记录、核验和追溯。可验证执行要求 AI 的授权、过程、结果和责任能够被回放。可验证认知则要求 AI 的事实依据、推理框架、不确定性和适用边界能够被检查。

三者背后有同一个结构:第一,要明确被验证的对象;第二,要有可检查的证据或过程;第三,要有能够判断证据的人或机制;第四,要承认验证边界;第五,要落实责任主体。

在金融中,被验证的是事实;在执行中,被验证的是行动;在认知中,被验证的是判断。金融事实如果不能验证,信用就会变成机构承诺;AI 行动如果不能验证,自动化就会变成责任黑箱;AI 判断如果不能验证,语言流畅就会变成新的迷信。

所以,从可验证金融到可验证认知,不是概念扩张,而是实践自然推进。

当 AI 只回答简单问题时,我们关注效率;当 AI 进入执行层时,我们关注责任;当 AI 进入判断层时,我们必须关注认知边界。

可验证认知并不一定首先表现为一套外部制度,它更像一种认知方法和协作纪律:不能只相信机器给出的结论,要追问事实依据、推理框架、适用范围和不确定性。它要求人不放弃判断,也要求 AI 暴露边界。

十、结论:高认知就是知道边界

AI 时代最危险的不是不会使用 AI,而是不知道 AI 的边界。

低认知的人容易把 AI 当作答案机器。高认知的人知道:AI 是工具,也是认知合作者;AI 能帮助人扩大能力,也可能把人带入错误框架。

真正的认知能力,不是知道所有答案,而是知道哪些问题自己能判断,哪些问题自己不能判断;知道什么时候可以使用 AI,什么时候必须验证 AI;知道 AI 在什么层面有用,在什么层面危险。

从可验证金融到可验证认知,核心逻辑没有变:不能只相信承诺,要验证事实;不能只相信执行,要验证过程;不能只相信机器判断,要验证认知边界。

AI 协作的成熟形态,不是人盲目相信 AI,也不是人拒绝 AI,而是人提出问题,AI 提供结构,双方反复校验,最终形成可解释、可复核、可负责的认知结果。

所以,AI 时代真正重要的问题是:人如何判断机器认知的边界。

Share this article or Email subscribe:
X (Twitter)
Visit Us
Follow Me

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注

滚动至顶部