——AI如何處理確定性與不確定性
一、今天關於AI的很多爭論，其實從一開始就在說不同的東西
讓AI寫一個已經定義清楚的程序，和讓AI判斷現在有沒有AI泡沫，不是一類問題。
讓Agent按照既定規則完成任務，和討論未來到底誰會從AI中獲益，也不是一類問題。
現在不少關於AI的爭論之所以各說各話，一個重要原因，就是沒有先把這些不同層次分清楚。
我認為，AI處理現實世界的問題，大體可以分成四個層次：
第一層是編程。
問題已經清楚，也已經知道應該怎麼解決。輸入是什麼，規則是什麼，最後怎樣判斷對錯，都比較明確。AI要做的是把人的意圖變成程序，然後讓程序剛性執行。
第二層是Agent。
外部環境會變化，但「遇到什麼情況應該做什麼」已經能夠規定下來。Agent可以自己觀察環境、調用工具、執行任務，但它的行動仍然應該處在事先確定的邊界之內。
第三層是判斷。
問題已經清楚，但答案並不確定。「現在AI有沒有泡沫？」就是這種問題。我們可以找證據，可以找反證，也可以比較不同解釋，但沒有一段程序能夠今天就證明未來一定怎樣。這類問題屬於不確定判斷：可以形成概率性或條件性的結論，但不能把結論當成已經確定的事實。
第四層是全景。
這一層更麻煩。
我們甚至還不知道真正的問題是什麼。比如「未來AI到底讓誰獲益？」剛開始看，似乎是在問哪些公司會賺錢。研究下去才會發現，它還涉及勞動者、消費者、政府、國家、資本所有者，甚至人的認知能力和自主權。也就是說，一開始連「獲益」這把尺子都沒有定下來。
第一層和第二層，已經形成了比較確定的結構。第三層和第四層，還處在不確定之中。
今天AI領域一個很大的問題，就是經常把這四層混在一起。
特別危險的是，把第三層還沒有形成的判斷，直接交給第二層的Agent去執行；或者把第四層還沒有弄清楚的問題，直接丟給AI要求一個答案。
這篇文章真正要討論的，就是這件事：面對不同程度的確定性和不確定性，AI到底應該做什麼？
二、真正的分界取決於確定性
四個層次真正的區別是：這個問題已經確定到了什麼程度。
這裏的四層，不是給產品、職業或行業貼標籤，而是在描述一個問題此刻所處的確定狀態。同一項工作可以同時包含不同層次的問題，也會隨着認識增加或規則失效在層次之間移動。
第一層最清楚。我們已經知道怎麼做，只需要準確重複執行。
第二層雖然外部世界會變，但我們已經知道：出現什麼情況，採取什麼行動。
第三層開始不一樣。我們知道自己在問什麼，卻不知道最後應該得出什麼結論。
第四層更往前一步：我們甚至還不知道自己真正應該問什麼。
可以把四層簡單地說成四句話：
第一層：怎樣做。
第二層：什麼時候做。
第三層：應該怎樣判斷。
第四層：真正的問題到底是什麼。
越往上，不確定性越大。
三、第一層：程序結構——已經知道怎麼做
程序結構解決的是最確定的一類問題。比如：「把兩張表按照證券代碼合併，重複記錄保留時間最新的一條，字段衝突時報錯。」
這個任務可能很煩，但它已經很清楚。AI可以幫人寫程序，程序寫好以後，就交給機器穩定執行。這裏有一點很重要：
程序的確定性，不是代碼自己創造出來的，而是在寫代碼以前，人已經把問題說清楚了。
如果要求換成：「幫我做一個好的股票分析系統。」事情馬上就不同了。什麼叫「好」？分析什麼？用哪些數據？什麼情況下提醒？什麼情況算異常？哪些判斷可以自動做？這些都沒有說清楚。
如果AI這時候直接開始寫代碼，它只能自己猜。程序可能跑得起來，但跑的未必是用戶真正想要的東西。所以我們在實際使用AI編程時經常看到：意圖越清楚，程序越好；題目越寬泛，漏洞越多。原因並不神秘。AI不是把不確定性消滅了，而是在替人偷偷補充那些沒有說出來的規則。
所以第一層最重要的一句話是：AI編程只能把已經確定的規則變成確定執行。
四、第二層：行動結構——世界不確定，但行動規則已經確定
本文所說的Agent，重點不在於採用哪一種技術，而在於它已經獲得一定的自主行動權：可以在既定目標、權限和行動邊界內觀察環境、調用工具並執行任務。
Agent面對的情況比程序複雜。外部世界不會按照一套固定輸入重複出現。比如無人駕駛汽車不知道前面的行人下一秒會不會突然橫穿馬路。
但是可以提前規定：什麼情況下減速；什麼情況下停車；權限到哪裏為止；什麼情況下必須把控制權交還給人。這就是行動結構。所以Agent真正適合的，不是所有不確定問題，而是外部環境雖然不確定，但行動規則已經確定的問題。
如果Agent要進入會產生真實後果的場景，我認為至少應該做到幾件事：
知道目標是什麼；
能力已經經過測試；
知道什麼時候不能繼續；
權限受到限制；
失敗以後能夠停止；
行動過程可以回放。而且這裏的「可回放」不能只是系統自己留一份日誌。應該做到：
一個沒有參與原系統運行的第三方，也能夠根據記錄重新判斷它當時看到了什麼、依據什麼規則、為什麼採取這個行動，以及有沒有越權。
這樣出了問題以後，才能分清是Agent執行錯了；是數據錯了；還是原來的行動規則本身就錯了。
所以第二層真正的問題不是「Agent會不會做？」而是「Agent做到什麼程度，才有資格讓它做？」
五、第三層：判斷結構——問題已經清楚，但答案還不知道
第三層，是現在AI應用里最容易被混淆的一層。
例如：「現在AI產業有沒有泡沫？」這個問題我們知道應該看投資、需求、利用率、融資、價格、收入、現金流。但未來沒有發生，今天不可能像運行程序一樣得到一個確定答案。
這時候真正需要的不是Agent，而是一套判斷結構。
一個完整的判斷，至少應該回答：我們到底在判斷什麼；哪些事實支持現在的判斷；哪些事實反對它；
同一組事實有沒有其他解釋；證據有什麼邊界；有沒有重要變量漏掉；在現在這些證據下，什麼判斷最合理；出現什麼新事實以後，這個判斷必須修改。
所以第三層可以制度化。但制度化的不是答案。
制度化的是我們怎樣形成判斷。
方法可以固定，結論不能固定。這就是第三層和第二層最根本的差別。
第二層已經能夠說：「如果出現這種情況，就這樣行動。」
第三層只能說：「根據目前的證據，我們暫時這樣判斷。」
這也解釋了為什麼簡單地多放幾個Agent進來，並不能解決第三層問題。
一個Agent看多，一個Agent看空，再加幾個Agent投票，並不會讓未來突然變得確定。五個Agent也完全可能一起錯。
不同觀點可以在判斷階段競爭，但沒有解決的分歧不能直接獲得行動權。
所以第三層真正需要的是判斷結構，不是更多Agent。
六、第四層：全景結構——連真正的問題都還沒有找到
第四層是最難的一層。它開始時往往不是一個清楚的問題，而只是一種感覺：
「這裏好像不對。」或者：
「大家現在這個解釋，好像太簡單了。」這時我們只有一個模糊概念。不知道真正的問題是什麼，不知道哪些變量最重要，甚至不知道應該用什麼尺度來看。
比如我們研究：「未來AI誰獲益？」如果按照普通的AI使用方式，幾分鐘就可以得到一張名單：
晶片公司、雲計算公司、軟件公司、機械人公司。看起來很完整。但真正研究下去以後會發現，這個問題遠遠不只是公司。
誰獲益，可能包括：企業；資本所有者；勞動者；消費者；政府；國家。
「獲益」本身也可能是：利潤；工資；消費者剩餘；稅收；國家競爭力；個人能力；甚至認知自主權。
這說明什麼？說明最開始那個問題還沒有真正形成。
所以第四層最重要的事，不是馬上定義問題，更不是馬上回答問題。而是先把問題保持開放。讓不同觀點進來；讓不同事實進來；讓反例進來；讓不同尺度進來。
普通搜索是：我知道問題是什麼，然後去找答案。全景不是這樣。
全景是我只知道這裏可能有問題，先把可能的世界儘量打開，然後再看看真正的問題在哪裏。
什麼時候可以從全景進入判斷？一個實用標準是：對象、尺度和主要變量已經基本穩定，新信息主要改變結論，而不再不斷改變「我們究竟在問什麼」。到這一步，問題才真正從第四層進入第三層。
我們的研究流程通常就是：
遍掃 → 找缺口 → 建結構 → 攻擊結構 → 形成判斷 → 壓縮成文。
這裏最重要的一步其實是「攻擊結構」。因為人和AI一旦形成一個漂亮的解釋，就會越來越喜歡它。接下來找的資料，很容易全都變成證明自己是對的。所以必須故意換關鍵詞；找相反觀點；
找最難解釋的事實；甚至重新問：我們是不是從一開始就在問錯問題？
全景不是為了收集更多資料。它真正要防止的是：第一個看起來合理的框架太早把問題封死。
所以第四層使用AI，我覺得有一句話非常重要：先用AI儘量擴大世界，不要先讓AI定義世界。
七、為什麼沒有AI，全景很難規模化為一種方法
過去當然也有極有全局眼光的人。但那往往是長期積累、天賦和跨學科訓練的結果，很難重複。
人的閱讀速度有限；記憶有限；搜索範圍有限；跨領域比較能力也有限。真正碰到第四層問題，一個人很容易先抓住自己最熟悉的解釋，然後一直向下挖。最後可能挖得很深，卻只是在研究象腿或者象鼻子。LLM和搜索改變的，不只是速度。更重要的是，它們大幅降低了保持問題開放的成本。AI可以很快展開幾十種不同觀點；跨不同領域搜索；把不同理論放在一起比較；重新換關鍵詞；尋找反例；攻擊剛剛形成的結構。
這件事過去的成本極高。所以AI真正新的研究價值，不只是更快回答一個問題。而是更快把一個模糊的感覺，變成一個真正值得回答的問題。
從這個意義上說，LLM和搜索第一次大幅降低了普通人系統擴展認知視野的成本。但它不保證視野自然變得完整：如果不主動換框架、找反例，AI同樣會把人帶進第一個漂亮答案。
八、問題降階：從全景一步步走向程序
四個層次連起來以後，會出現一個很有意思的過程：
全景結構 → 判斷結構 → 行動結構 → 程序結構
我們把它叫作：問題降階。
第四層先通過全景，找到真正的問題。問題比較穩定以後，進入第三層，開始形成判斷。判斷中那些已經比較穩定、可以變成規則的部分，繼續沉澱成第二層行動結構。行動再進一步標準化，就會有一部分進入第一層程序結構。
這個過程其實一直存在。過去可能是：專家做很多年→ 慢慢形成經驗→ 形成制度→ 形成流程→ 最後寫成軟件。
今天AI正在大幅加快這個過程。它可能變成：模糊問題→ AI快速展開→ 人發現缺口→ AI繼續搜索 → 形成判斷→ 把穩定部分變成行動規則→ AI編程→ 程序執行。所以AI對經濟真正深刻的影響，也許不只是「把一個人的工作做快幾倍」。
更深的一層是：AI正在加快那些能夠被說清、被驗證的部分，從不確定判斷沉澱為確定生產過程的速度。
九、但是，降階不是越多越好
這裏很容易走到另一個極端。既然可以降階，是不是最後所有問題都應該變成Agent，最後再變成程序？不是。
真正合理的原則應該是：問題只能降到證據允許的程度。
很多第三層問題可以長期停在第三層。很多第四層問題也可能長期保持開放。只有真正已經取得確定性的部分，才應該繼續往下走。
否則會出現一個很危險的東西：偽降階。
比如一個企業到底經營得好不好，本來是一個很複雜的問題。為了自動管理，最後把它壓成一個KPI。程序隨後可以非常準確地把這個KPI做到最好。但如果KPI根本不能代表企業真正的目標呢？
那機器越準確，錯誤反而越穩定。LLM時代尤其要警惕這一點。
因為AI最擅長的一件事，就是把缺掉的東西補得非常完整。所以今天會出現一個過去沒有那麼明顯的新風險：
早期計算機時代，人們擔心機器不會解決非結構化問題；生成式AI時代，我們反而必須防止機器把尚未結構化的問題偽裝成已經解決的問題。
過去機器不會做，問題很容易暴露。今天AI幾乎什麼都能回答。
真正危險的是：它做得太像真的。
十、能夠降階，也必須能夠重新升階
現實不會永遠按昨天的規則運行。市場會變；技術會變；參與者會學習；監管會變；原來有效的指標也可能失效。股票市場尤其明顯。一個規律如果大家都知道，大家都會提前交易，最後這個規律本身可能就沒用了。所以真正可靠的系統不能只會：第四層 → 第三層 → 第二層 → 第一層。
它還必須能夠反過來。如果程序或者Agent不斷出現異常，就應該回到第三層：原來的判斷是不是錯了？如果進一步發現連原來的尺子都不對，那就必須重新回到第四層：我們是不是連問題都問錯了？這就是「升階」。真正成熟的AI系統，不只是知道什麼時候該自動做。還必須知道：什麼時候它已經沒有資格繼續自動做。
十一、在給AI下指令以前，先把判斷形成
四層雖然不同，但有一個共同點。除非是特別簡單、特別確定的第一層任務，否則都不應該跳過一個過程：先討論，形成判斷，再下指令。
第一層主要確認：規格有沒有說清楚。
第二層主要確認：行動規則、權限和停止條件有沒有確定。
第三層主要討論：證據和判斷到底能走到哪裏。
第四層則更加前面：先把問題找出來。
所以AI使用真正通用的過程，不應該只是：人寫Prompt → AI執行。
更合理的是：模糊意圖→ 人機討論→ 形成判斷→ 明確指令→ AI、Agent或者程序執行→ 驗證 → 必要時重新討論。
很多AI使用失敗，不是因為Prompt寫得不好。而是判斷還沒有形成，就已經急着讓AI開始幹活。
這是非常危險的，因為AI會自動替你補上缺失的「判斷」，而我們未必知道這些判斷是否成立。
結語：AI不是一種能力，而是四種不同的用法
現在大家經常問：AI到底能做到什麼？
這個問題本身可能就太粗了。面對不同的問題，AI應該處在不同的位置。
如果已經知道怎麼做，就進入程序結構。
如果已經知道遇到什麼情況應該採取什麼行動，就進入Agent。
如果問題清楚，但答案仍然不確定，就留在判斷層。
如果連真正的問題都還沒有找到，就先做全景。
所以真正重要的，不是把越來越多事情交給AI。
而是先問：這個問題現在到底到了哪一層？
我越來越覺得，這可能才是AI時代處理確定性與不確定性最基本的一條原則：
不是所有問題都需要答案。
有些問題首先需要判斷。
還有一些問題，首先需要找到真正的問題。
