——AI如何处理确定性与不确定性
一、今天关于AI的很多争论，其实从一开始就在说不同的东西
让AI写一个已经定义清楚的程序，和让AI判断现在有没有AI泡沫，不是一类问题。
让Agent按照既定规则完成任务，和讨论未来到底谁会从AI中获益，也不是一类问题。
现在不少关于AI的争论之所以各说各话，一个重要原因，就是没有先把这些不同层次分清楚。
我认为，AI处理现实世界的问题，大体可以分成四个层次：
第一层是编程。
问题已经清楚，也已经知道应该怎么解决。输入是什么，规则是什么，最后怎样判断对错，都比较明确。AI要做的是把人的意图变成程序，然后让程序刚性执行。
第二层是Agent。
外部环境会变化，但“遇到什么情况应该做什么”已经能够规定下来。Agent可以自己观察环境、调用工具、执行任务，但它的行动仍然应该处在事先确定的边界之内。
第三层是判断。
问题已经清楚，但答案并不确定。“现在AI有没有泡沫？”就是这种问题。我们可以找证据，可以找反证，也可以比较不同解释，但没有一段程序能够今天就证明未来一定怎样。这类问题属于不确定判断：可以形成概率性或条件性的结论，但不能把结论当成已经确定的事实。
第四层是全景。
这一层更麻烦。
我们甚至还不知道真正的问题是什么。比如“未来AI到底让谁获益？”刚开始看，似乎是在问哪些公司会赚钱。研究下去才会发现，它还涉及劳动者、消费者、政府、国家、资本所有者，甚至人的认知能力和自主权。也就是说，一开始连“获益”这把尺子都没有定下来。
第一层和第二层，已经形成了比较确定的结构。第三层和第四层，还处在不确定之中。
今天AI领域一个很大的问题，就是经常把这四层混在一起。
特别危险的是，把第三层还没有形成的判断，直接交给第二层的Agent去执行；或者把第四层还没有弄清楚的问题，直接丢给AI要求一个答案。
这篇文章真正要讨论的，就是这件事：面对不同程度的确定性和不确定性，AI到底应该做什么？
二、真正的分界取决于确定性
四个层次真正的区别是：这个问题已经确定到了什么程度。
这里的四层，不是给产品、职业或行业贴标签，而是在描述一个问题此刻所处的确定状态。同一项工作可以同时包含不同层次的问题，也会随着认识增加或规则失效在层次之间移动。
第一层最清楚。我们已经知道怎么做，只需要准确重复执行。
第二层虽然外部世界会变，但我们已经知道：出现什么情况，采取什么行动。
第三层开始不一样。我们知道自己在问什么，却不知道最后应该得出什么结论。
第四层更往前一步：我们甚至还不知道自己真正应该问什么。
可以把四层简单地说成四句话：
第一层：怎样做。
第二层：什么时候做。
第三层：应该怎样判断。
第四层：真正的问题到底是什么。
越往上，不确定性越大。
三、第一层：程序结构——已经知道怎么做
程序结构解决的是最确定的一类问题。比如：“把两张表按照证券代码合并，重复记录保留时间最新的一条，字段冲突时报错。”
这个任务可能很烦，但它已经很清楚。AI可以帮人写程序，程序写好以后，就交给机器稳定执行。这里有一点很重要：
程序的确定性，不是代码自己创造出来的，而是在写代码以前，人已经把问题说清楚了。
如果要求换成：“帮我做一个好的股票分析系统。”事情马上就不同了。什么叫“好”？分析什么？用哪些数据？什么情况下提醒？什么情况算异常？哪些判断可以自动做？这些都没有说清楚。
如果AI这时候直接开始写代码，它只能自己猜。程序可能跑得起来，但跑的未必是用户真正想要的东西。所以我们在实际使用AI编程时经常看到：意图越清楚，程序越好；题目越宽泛，漏洞越多。原因并不神秘。AI不是把不确定性消灭了，而是在替人偷偷补充那些没有说出来的规则。
所以第一层最重要的一句话是：AI编程只能把已经确定的规则变成确定执行。
四、第二层：行动结构——世界不确定，但行动规则已经确定
本文所说的Agent，重点不在于采用哪一种技术，而在于它已经获得一定的自主行动权：可以在既定目标、权限和行动边界内观察环境、调用工具并执行任务。
Agent面对的情况比程序复杂。外部世界不会按照一套固定输入重复出现。比如无人驾驶汽车不知道前面的行人下一秒会不会突然横穿马路。
但是可以提前规定：什么情况下减速；什么情况下停车；权限到哪里为止；什么情况下必须把控制权交还给人。这就是行动结构。所以Agent真正适合的，不是所有不确定问题，而是外部环境虽然不确定，但行动规则已经确定的问题。
如果Agent要进入会产生真实后果的场景，我认为至少应该做到几件事：
知道目标是什么；
能力已经经过测试；
知道什么时候不能继续；
权限受到限制；
失败以后能够停止；
行动过程可以回放。而且这里的“可回放”不能只是系统自己留一份日志。应该做到：
一个没有参与原系统运行的第三方，也能够根据记录重新判断它当时看到了什么、依据什么规则、为什么采取这个行动，以及有没有越权。
这样出了问题以后，才能分清是Agent执行错了；是数据错了；还是原来的行动规则本身就错了。
所以第二层真正的问题不是“Agent会不会做？”而是“Agent做到什么程度，才有资格让它做？”
五、第三层：判断结构——问题已经清楚，但答案还不知道
第三层，是现在AI应用里最容易被混淆的一层。
例如：“现在AI产业有没有泡沫？”这个问题我们知道应该看投资、需求、利用率、融资、价格、收入、现金流。但未来没有发生，今天不可能像运行程序一样得到一个确定答案。
这时候真正需要的不是Agent，而是一套判断结构。
一个完整的判断，至少应该回答：我们到底在判断什么；哪些事实支持现在的判断；哪些事实反对它；
同一组事实有没有其他解释；证据有什么边界；有没有重要变量漏掉；在现在这些证据下，什么判断最合理；出现什么新事实以后，这个判断必须修改。
所以第三层可以制度化。但制度化的不是答案。
制度化的是我们怎样形成判断。
方法可以固定，结论不能固定。这就是第三层和第二层最根本的差别。
第二层已经能够说：“如果出现这种情况，就这样行动。”
第三层只能说：“根据目前的证据，我们暂时这样判断。”
这也解释了为什么简单地多放几个Agent进来，并不能解决第三层问题。
一个Agent看多，一个Agent看空，再加几个Agent投票，并不会让未来突然变得确定。五个Agent也完全可能一起错。
不同观点可以在判断阶段竞争，但没有解决的分歧不能直接获得行动权。
所以第三层真正需要的是判断结构，不是更多Agent。
六、第四层：全景结构——连真正的问题都还没有找到
第四层是最难的一层。它开始时往往不是一个清楚的问题，而只是一种感觉：
“这里好像不对。”或者：
“大家现在这个解释，好像太简单了。”这时我们只有一个模糊概念。不知道真正的问题是什么，不知道哪些变量最重要，甚至不知道应该用什么尺度来看。
比如我们研究：“未来AI谁获益？”如果按照普通的AI使用方式，几分钟就可以得到一张名单：
芯片公司、云计算公司、软件公司、机器人公司。看起来很完整。但真正研究下去以后会发现，这个问题远远不只是公司。
谁获益，可能包括：企业；资本所有者；劳动者；消费者；政府；国家。
“获益”本身也可能是：利润；工资；消费者剩余；税收；国家竞争力；个人能力；甚至认知自主权。
这说明什么？说明最开始那个问题还没有真正形成。
所以第四层最重要的事，不是马上定义问题，更不是马上回答问题。而是先把问题保持开放。让不同观点进来；让不同事实进来；让反例进来；让不同尺度进来。
普通搜索是：我知道问题是什么，然后去找答案。全景不是这样。
全景是我只知道这里可能有问题，先把可能的世界尽量打开，然后再看看真正的问题在哪里。
什么时候可以从全景进入判断？一个实用标准是：对象、尺度和主要变量已经基本稳定，新信息主要改变结论，而不再不断改变“我们究竟在问什么”。到这一步，问题才真正从第四层进入第三层。
我们的研究流程通常就是：
遍扫 → 找缺口 → 建结构 → 攻击结构 → 形成判断 → 压缩成文。
这里最重要的一步其实是“攻击结构”。因为人和AI一旦形成一个漂亮的解释，就会越来越喜欢它。接下来找的资料，很容易全都变成证明自己是对的。所以必须故意换关键词；找相反观点；
找最难解释的事实；甚至重新问：我们是不是从一开始就在问错问题？
全景不是为了收集更多资料。它真正要防止的是：第一个看起来合理的框架太早把问题封死。
所以第四层使用AI，我觉得有一句话非常重要：先用AI尽量扩大世界，不要先让AI定义世界。
七、为什么没有AI，全景很难规模化为一种方法
过去当然也有极有全局眼光的人。但那往往是长期积累、天赋和跨学科训练的结果，很难重复。
人的阅读速度有限；记忆有限；搜索范围有限；跨领域比较能力也有限。真正碰到第四层问题，一个人很容易先抓住自己最熟悉的解释，然后一直向下挖。最后可能挖得很深，却只是在研究象腿或者象鼻子。LLM和搜索改变的，不只是速度。更重要的是，它们大幅降低了保持问题开放的成本。AI可以很快展开几十种不同观点；跨不同领域搜索；把不同理论放在一起比较；重新换关键词；寻找反例；攻击刚刚形成的结构。
这件事过去的成本极高。所以AI真正新的研究价值，不只是更快回答一个问题。而是更快把一个模糊的感觉，变成一个真正值得回答的问题。
从这个意义上说，LLM和搜索第一次大幅降低了普通人系统扩展认知视野的成本。但它不保证视野自然变得完整：如果不主动换框架、找反例，AI同样会把人带进第一个漂亮答案。
八、问题降阶：从全景一步步走向程序
四个层次连起来以后，会出现一个很有意思的过程：
全景结构 → 判断结构 → 行动结构 → 程序结构
我们把它叫作：问题降阶。
第四层先通过全景，找到真正的问题。问题比较稳定以后，进入第三层，开始形成判断。判断中那些已经比较稳定、可以变成规则的部分，继续沉淀成第二层行动结构。行动再进一步标准化，就会有一部分进入第一层程序结构。
这个过程其实一直存在。过去可能是：专家做很多年→ 慢慢形成经验→ 形成制度→ 形成流程→ 最后写成软件。
今天AI正在大幅加快这个过程。它可能变成：模糊问题→ AI快速展开→ 人发现缺口→ AI继续搜索 → 形成判断→ 把稳定部分变成行动规则→ AI编程→ 程序执行。所以AI对经济真正深刻的影响，也许不只是“把一个人的工作做快几倍”。
更深的一层是：AI正在加快那些能够被说清、被验证的部分，从不确定判断沉淀为确定生产过程的速度。
九、但是，降阶不是越多越好
这里很容易走到另一个极端。既然可以降阶，是不是最后所有问题都应该变成Agent，最后再变成程序？不是。
真正合理的原则应该是：问题只能降到证据允许的程度。
很多第三层问题可以长期停在第三层。很多第四层问题也可能长期保持开放。只有真正已经取得确定性的部分，才应该继续往下走。
否则会出现一个很危险的东西：伪降阶。
比如一个企业到底经营得好不好，本来是一个很复杂的问题。为了自动管理，最后把它压成一个KPI。程序随后可以非常准确地把这个KPI做到最好。但如果KPI根本不能代表企业真正的目标呢？
那机器越准确，错误反而越稳定。LLM时代尤其要警惕这一点。
因为AI最擅长的一件事，就是把缺掉的东西补得非常完整。所以今天会出现一个过去没有那么明显的新风险：
早期计算机时代，人们担心机器不会解决非结构化问题；生成式AI时代，我们反而必须防止机器把尚未结构化的问题伪装成已经解决的问题。
过去机器不会做，问题很容易暴露。今天AI几乎什么都能回答。
真正危险的是：它做得太像真的。
十、能够降阶，也必须能够重新升阶
现实不会永远按昨天的规则运行。市场会变；技术会变；参与者会学习；监管会变；原来有效的指标也可能失效。股票市场尤其明显。一个规律如果大家都知道，大家都会提前交易，最后这个规律本身可能就没用了。所以真正可靠的系统不能只会：第四层 → 第三层 → 第二层 → 第一层。
它还必须能够反过来。如果程序或者Agent不断出现异常，就应该回到第三层：原来的判断是不是错了？如果进一步发现连原来的尺子都不对，那就必须重新回到第四层：我们是不是连问题都问错了？这就是“升阶”。真正成熟的AI系统，不只是知道什么时候该自动做。还必须知道：什么时候它已经没有资格继续自动做。
十一、在给AI下指令以前，先把判断形成
四层虽然不同，但有一个共同点。除非是特别简单、特别确定的第一层任务，否则都不应该跳过一个过程：先讨论，形成判断，再下指令。
第一层主要确认：规格有没有说清楚。
第二层主要确认：行动规则、权限和停止条件有没有确定。
第三层主要讨论：证据和判断到底能走到哪里。
第四层则更加前面：先把问题找出来。
所以AI使用真正通用的过程，不应该只是：人写Prompt → AI执行。
更合理的是：模糊意图→ 人机讨论→ 形成判断→ 明确指令→ AI、Agent或者程序执行→ 验证 → 必要时重新讨论。
很多AI使用失败，不是因为Prompt写得不好。而是判断还没有形成，就已经急着让AI开始干活。
这是非常危险的，因为AI会自动替你补上缺失的“判断”，而我们未必知道这些判断是否成立。
结语：AI不是一种能力，而是四种不同的用法
现在大家经常问：AI到底能做到什么？
这个问题本身可能就太粗了。面对不同的问题，AI应该处在不同的位置。
如果已经知道怎么做，就进入程序结构。
如果已经知道遇到什么情况应该采取什么行动，就进入Agent。
如果问题清楚，但答案仍然不确定，就留在判断层。
如果连真正的问题都还没有找到，就先做全景。
所以真正重要的，不是把越来越多事情交给AI。
而是先问：这个问题现在到底到了哪一层？
我越来越觉得，这可能才是AI时代处理确定性与不确定性最基本的一条原则：
不是所有问题都需要答案。
有些问题首先需要判断。
还有一些问题，首先需要找到真正的问题。
