——對 AI 巨人敘事的理論反思
AI 正在成為這個時代最強大的技術變量。
它可以寫作、編程、翻譯、檢索、總結、推理、調用工具、生成方案,甚至開始進入企業管理、金融分析、醫療輔助、法律服務、教育訓練和公共治理等領域。大模型的出現,讓許多人第一次感覺到:軟件不再只是軟件,工具不再只是工具,機器似乎正在獲得一種可以橫向進入各個領域的通用智能。
正因為如此,AI 行業逐漸形成了一種強大的「巨人敘事」。一種聲音認為,AI 會不斷變大、變強、變通用,最後成為所有軟件、所有行業、所有知識工作的統一智能入口;另一種聲音則擔心,AI 最終會形成超級智能,擺脫人的控制,威脅人類自身。
這兩種聲音表面相反,底層卻共享一個前提:未來會出現一個越來越大、越來越通用、越來越中心化的 AI 巨人。樂觀派認為這個巨人會帶來繁榮,末日派認為這個巨人會帶來災難。
但可驗證思想提出第三種判斷:高責任社會不會允許一個不可驗證的 AI 巨人成為社會的基礎結構。AI 可以強大,但不能不可驗證;AI 可以通用,但不能無邊界;AI 可以成為基礎設施,但不能成為不受覆核、不受約束、不負責任的主宰。
本文要討論的,不是 AI 會不會繼續發展,也不是大模型有沒有價值,而是一個更基礎的問題:當 AI 進入真實社會以後,制度、責任和驗證結構會如何塑造 AI 的形態?
我的判斷是:可驗證思想會使 AI 多樣化。
這不是未來學式的預測,而是從制度結構出發的推理。
一、本文在可驗證思想系列中的位置
本文不是一篇孤立的 AI 評論,而是可驗證思想系列在 AI 問題上的進一步推進。
在前面的文章中,我已經從不同角度討論了 AI 與驗證的關係。
《AI 也必須被驗證:從可驗證金融到可驗證執行》提出了一個基本判斷:AI 一旦從回答問題走向執行任務,就不能只看輸出結果,而必須記錄授權、過程、依據和責任。
《如何為 AI 建立可驗證結構》進一步討論了 AI 執行如何留下過程記錄、如何形成回放路徑、如何讓外部主體能夠覆核 AI 的關鍵行為。
《人需要對 AI 擁有驗證權》強調,在 AI 參與金融、醫療、法律、招聘、平台處罰、公共服務等高責任場景時,人不能只是被動接受 AI 輸出,而必須保留最終覆核和申訴的權利。
《可驗證思想,是 AI 時代的捆龍鎖》則從更宏觀的層面說明:AI 是強大的力量,但強大的 AI 如果沒有驗證結構,就可能成為黑箱執行、責任逃逸、權力擴張和認知奴役的來源。可驗證思想不是反 AI,而是讓 AI 能夠被駕馭、被覆核、被追責的制度韁繩。
這些文章解決的是同一個方向上的不同問題:AI 為什麼必須被驗證?AI 執行如何被驗證?人為什麼需要驗證權?可驗證思想為什麼是 AI 時代的制度約束?
本文進一步推進,討論另一個更基礎的問題:當 AI 必須被可驗證結構約束以後,它會長成什麼形態?
所以,本文不是重複「AI 必須被驗證」,而是從這個前提出發,重新定位 AI 的未來形態。如果 AI 必須被驗證,而不同領域的驗證結構又不同,那麼 AI 就不會只沿着一個越來越大的巨人方向演化。它會被不同制度、不同責任、不同驗證結構塑造成多樣化生態。
因此,本文是 AI 的定位篇。從 AI 進入社會後的制度約束出發,推導 AI 為什麼會多樣化。
AI 具有通用能力,所以巨人敘事產生;AI 進入高責任社會,所以必須被驗證;不同制度產生不同責任,所以驗證結構不同;驗證結構不同,所以 AI 形態多樣化;大模型通用能力保留,但回到基礎設施位置。
這就是本文的完整邏輯。
二、AI 的巨人敘事來自通用能力
大模型之所以會激發「巨人想像」,不是沒有原因。
過去的軟件是功能型的。一個財務軟件處理賬目,一個醫療系統管理病歷,一個法律數據庫檢索案例,一個辦公軟件處理文檔。不同軟件之間邊界清楚,使用者必須理解流程、輸入信息、點擊按鈕、判斷結果。
大模型改變了這種關係。它可以用自然語言理解任務,可以調用工具,可以生成代碼,可以連接數據庫,可以操作軟件,可以把複雜任務拆成步驟。於是,人們自然會想像:如果一個模型能夠理解所有任務、調用所有軟件、掌握所有知識、協調所有流程,那麼它是否會成為所有軟件之上的統一智能層?
這就是 AI 巨人敘事的技術來源。
從能力角度看,這種想像並不荒謬。AI 的確有很強的通用性。語言、代碼、邏輯、文本、圖像、工具調用、知識整合,本身具有跨領域特徵。大模型越強,它就越像一個可以進入不同領域的通用能力底座。
如果只從能力出發,人們很容易得出一個結論:AI 會越來越大,越來越統一,越來越像一個巨人。
但問題在於,人類社會不是只由能力構成的。人類社會還由制度、責任、權利、風險、證據、程序和追責構成。
AI 能做什麼,是技術問題。AI 被允許怎樣做,是制度問題。AI 做錯以後如何覆核和追責,是驗證問題。
巨人敘事的缺陷就在這裏:它過度從技術能力推導社會形態,卻低估了制度和驗證結構對 AI 的反向塑造。
三、本文不是預測未來,而是推導未來
討論 AI 未來,很容易落入未來學的寫法。未來學常常問:未來會出現什麼?什麼技術會流行?什麼趨勢會擴張?什麼職業會消失?什麼產業會被重構?
這種寫法有價值,但也有明顯問題。很多未來判斷在幾十年後看起來似乎「說中了」,但人們往往記住了說中的部分,忘記了說錯的部分。一個人只要提出足夠多的未來想像,總會有一些片段被歷史選中。
真正有力量的理論,不是猜未來,而是解釋為什麼某種未來更可能被制度、技術和社會結構共同推出來。
熊彼特討論資本主義,不是靠猜測未來行業,而是抓住創新、企業家和創造性破壞這些內在機制。張維迎討論市場和企業家,也不是靠趨勢感,而是從產權、激勵、知識分散、制度約束和企業家判斷中推理社會經濟現象。本文採用的也是這種方法。
本文不是說:「我預測 AI 會多樣化。」本文說的是:AI 一旦進入高責任社會,就必須被驗證;不同制度產生不同責任;不同責任產生不同驗證結構;不同驗證結構必然塑造不同 AI 形態。
這是機制推理,不是未來預言。
制度決定責任,責任決定驗證結構,驗證結構決定 AI 形態。
或者更直接地說:技術決定 AI 能做什麼,制度決定 AI 被允許怎樣做,驗證結構決定 AI 最終長成什麼樣。
四、已有經濟學研究的相鄰判斷與本文的獨創位置
理論判斷不能只靠自我確認。一個新命題若值得提出,通常不是因為完全無人觸碰,而是因為許多一線研究已經看到局部現象,但尚未形成統一框架。因此,討論 AI 未來形態,也必須先做一次思想和經濟學意義上的遍掃。
已有經濟學研究已經從不同角度削弱了「單一 AI 巨人」的想像。任務經濟學把 AI 影響拆解為不同任務中的自動化、互補和新任務創造,而不是把 AI 當作一個統一替代物。Brynjolfsson 關於 「Turing Trap」 的討論提醒人們,AI 的方向並非只能模仿和替代人類,也可以被設計為增強人類能力。Acemoglu、Autor、Johnson 等人關於 pro-worker AI 的分析,同樣強調 AI 可以擴展人的技能和專業知識,而不必只是降低人工成本、替代勞動者。有關基礎模型市場集中度的研究也指出,前沿基礎模型可能存在集中趨勢,但這種集中不應自然擴散到所有下游應用和行業場景。還有關於 AI 知識聚合的研究表明,在多主題、多情境的知識環境中,單一 global aggregator 未必優於專業化、本地化、主題化的 local aggregators。
這些研究都很重要。它們說明,AI 的未來並非只有「一個越來越大的模型吞併一切」這一條路。任務不同、勞動關係不同、知識聚合方式不同、市場結構不同、上游基礎模型與下游應用的關係不同,都會使 AI 呈現某種多樣化壓力。
但這些相鄰判斷仍然主要從任務、勞動、知識、市場和競爭結構出發。本文的獨創位置不在於重複「AI 會有很多應用」或「專業模型會存在」,而在於從可驗證思想出發,提出另一條推導路徑:AI 進入高責任社會以後,必須面對制度、責任和驗證結構;不同領域的驗證對象、驗證主體、驗證標準和責任邊界不同,因此 AI 的現實形態也必然不同。
換句話說,經濟學研究已經看到 AI 多樣化的若干市場基礎和知識基礎;本文進一步指出,AI 多樣化還有一個更深的制度基礎:可驗證結構。任務會使 AI 分工,市場會使 AI 競爭,知識結構會使 AI 分層,而驗證結構會使 AI 被制度性塑形。這正是本文與普通市場判斷、專業模型判斷以及已有經濟學討論的區別。
五、能力通用不等於責任通用
AI 的能力可以通用,但責任不可能通用。這是理解 AI 未來形態的關鍵。
一個大模型可以同時懂金融、醫療、法律、審計、教育和企業管理。它可以閱讀財報,也可以總結病歷;可以檢索法律條文,也可以分析合同;可以寫程序,也可以生成市場報告。
但懂得一個領域的知識,不等於能夠承載這個領域的責任。
金融不是簡單的數字計算。它涉及賬戶、餘額、儲備、交易、授權、清算、核算、審計和法律責任。
醫療不是醫學知識問答。它涉及病歷、診斷依據、治療方案、風險告知、患者同意、醫生責任和醫療規範。
法律不是法條文本匹配。它涉及事實認定、證據規則、程序正義、解釋邊界、代理責任和裁判後果。
審計不是報表摘要生成。它涉及憑證、合同、賬本、收入確認、成本歸集、異常識別和責任簽字。
公共服務不是流程自動化。它涉及權限來源、行政程序、公示義務、申訴機制、責任鏈條和公共監督。
這些領域不是知識集合,而是制度結構。大模型可以學習行業知識,可以調用行業軟件,可以輔助行業人員,但它不能因為「懂得很多」就自動吞併行業責任。
知識可以被模型吸收,責任不能被模型吸收。軟件可以被模型調用,驗證不能被模型吞併。接口可以統一,責任邊界不能統一。
巨人敘事常常把這幾件事混在一起。它看到大模型能夠調用軟件,就以為大模型可以吞併軟件;看到大模型能夠處理行業任務,就以為大模型可以吞併行業;看到大模型能夠輸出解釋,就以為大模型可以吞併驗證。
但這是錯誤的。AI 可以成為能力中心,卻不能成為所有責任的中心;AI 可以成為統一入口,卻不能成為所有行業驗證的最終裁判。
六、可驗證結構是 AI 進入現實社會後的河道
水本身沒有固定形狀。它可以流動,可以擴散,可以匯聚,也可以漫過邊界。
但水一旦進入現實世界,就會受到河道、堤壩、地勢和工程結構的約束。河道不是水的敵人,而是水能夠被使用、被引導、被控制、被分配的條件。
AI 的通用能力也是如此。
在沒有制度約束的想像中,AI 可以被描述成無所不能的巨人。它像一片無邊界的水,似乎可以流向所有領域、吞併所有軟件、完成所有任務。
但一旦進入金融、醫療、法律、審計、保險、招聘、教育、公共服務這些現實領域,它就必須進入不同的制度河道。
金融制度要求它留下賬戶、交易、授權、儲備和核算記錄。醫療制度要求它留下病歷依據、診斷路徑、風險提示和專業責任。法律制度要求它區分事實、證據、程序、規則和解釋邊界。審計制度要求它保留憑證、賬本、合同、異常和覆核路徑。公共服務制度要求它接受權限約束、程序審查、申訴機制和責任追蹤。
這就是可驗證結構。
可驗證結構不是簡單的技術插件,也不是給 AI 加一個說明按鈕。它是 AI 進入現實社會後必須接受的制度河道。
沒有驗證結構,AI 可以被想像成無邊界的巨人;有了驗證結構,AI 才能成為可覆核、可追責、可進入高責任社會的工具。
因此,AI 的未來不是單純由模型能力決定,而是由它進入社會後的制度位置決定。
七、用途決定軟件分化,制度決定驗證分化
不同領域的 AI 應用,首先會因為用途不同而分化。
金融 AI、醫療 AI、法律 AI、教育 AI、企業管理 AI、審計 AI,本來就會有不同功能。程式設計師和產品團隊可以根據現有軟件系統升級,把 AI 接入原有流程,使軟件更智能、更自動、更易用。
這是一種應用層分化。
但可驗證思想強調的,不只是用途分化,而是驗證分化。用途分化解決的是:AI 用來做什麼。驗證分化解決的是:AI 憑什麼被相信,如何被覆核,出了問題誰負責。
普通行業軟件的升級,可以由程式設計師根據需求完成。但高責任 AI 的驗證條件,不是普通程式設計師坐在辦公室里就能完整設計出來的。因為驗證條件是制度性問題。
金融 AI 的驗證條件,需要金融專家、銀行、審計人員、監管者和法律責任主體共同定義。醫療 AI 的驗證條件,需要醫生、醫院、醫學規範、患者權利和醫療責任體系共同定義。法律 AI 的驗證條件,需要律師、法官、證據規則、程序制度和司法責任共同定義。審計 AI 的驗證條件,需要會計準則、審計準則、憑證體系、企業財務實踐和法律責任共同定義。公共服務 AI 的驗證條件,需要行政法、公共程序、申訴機制、監督制度和責任機關共同定義。
所以,AI 多樣化不是簡單的市場競爭結果,也不是開發者偏好造成的。它來自更深的結構:用途決定軟件分化,制度決定驗證分化;驗證分化最終決定 AI 形態多樣化。
八、驗證結構圖譜:為什麼 AI 必然百花齊放
如果沒有驗證結構,人們可以想像一個巨大的通用模型包辦一切。但只要引入驗證,就會看到完全不同的圖景。
| 行業 | 主要驗證對象 | 主要驗證主體 | AI 形態的塑造方向 |
| 金融 | 賬戶、餘額、儲備、交易、授權、核算、審計回放 | 銀行、審計機構、監管機構、交易相關方 | 金融執行 AI、風控 AI、審計驗證 AI、儲備驗證 AI |
| 醫療 | 病歷、診斷依據、治療方案、風險告知、患者同意 | 醫生、醫院、患者、醫學規範制定者、監管機構 | 醫療輔助 AI、診斷覆核 AI、風險提示 AI |
| 法律 | 事實、證據、程序、適用規則、解釋邊界、代理責任 | 律師、法官、當事人、司法機構 | 法律檢索 AI、證據覆核 AI、程序審查 AI |
| 審計 | 憑證、合同、賬本、收入確認、異常記錄、責任簽字 | 會計師、審計機構、企業、監管者 | 賬本檢查 AI、異常識別 AI、審計回放 AI |
| 公共服務 | 權限來源、行政程序、公示、申訴、責任鏈 | 行政機關、公眾、監察機構、法院 | 政務輔助 AI、程序合規 AI、申訴覆核 AI |
這裏的「驗證主體」主要指覆核責任主體與技術驗證執行者的組合。AI 可以參與檢查、提示和記錄,但最終法律責任仍應由人、機構或相應責任主體承擔。
這個圖譜說明,AI 多樣化不是從模型競爭推出來的,而是從驗證結構推出來的。不同領域需要不同驗證結構,AI 就必然百花齊放。
有些 AI 會偏執行,有些 AI 會偏判斷;有些 AI 會偏審計,有些 AI 會偏記錄;有些 AI 會偏覆核,有些 AI 會偏風險控制;有些 AI 會偏專業輔助,有些 AI 會偏公共監督。
未來不是一個 AI 巨人包辦所有事情,而是一個由通用模型、專業模型、驗證模型、規則系統、審計結構和責任主體共同組成的可驗證 AI 生態。
九、為什麼這不同於普通的專業模型判斷
有人可能會說,專業模型、行業模型、垂直模型,本來就是 AI 產業常見判斷,並不新鮮。
這種反駁只看到表面。普通專業模型判斷,通常從工程效率出發:通用模型太大、成本太高、行業數據不足、專業場景複雜,所以需要垂直模型。這種判斷沒有錯,但層次不夠。
本文討論的不是工程分工,而是制度塑形。工程分工解決效率問題,可驗證結構解決信用問題。
如下表所示,普通專業模型判斷與可驗證思想判斷的出發點和核心問題並不相同。
| 比較維度 | 普通專業模型判斷 | 可驗證思想的判斷 |
| 出發點 | 成本、效率、數據、性能 | 制度、責任、驗證、追責 |
| 核心問題 | 模型怎樣把任務做得更好 | AI 憑什麼被相信、如何被覆核 |
| 分化原因 | 行業任務不同、數據不同 | 驗證對象、驗證主體、驗證標準、責任邊界不同 |
| 最終形態 | 多個垂直應用或垂直模型 | 通用模型、專業模型、驗證模型、規則系統、審計結構共同組成的生態 |
這個差異說明,本文討論的不是「行業應用會很多」這一普通判斷,而是高責任社會如何通過制度和驗證結構重新塑造 AI 的現實形態。
專業模型可以因為效率而出現,也可以因為數據而出現,還可以因為成本而出現。但高責任 AI 的真正分化,來自製度、責任和驗證。
如果一個醫療 AI 只是回答醫學問題,它可以是普通專業模型;但如果它參與診斷建議,它就必須進入醫療責任結構。
如果一個金融 AI 只是總結市場新聞,它可以是普通行業模型;但如果它參與貸款、風控、交易、儲備、審計,它就必須進入金融驗證結構。
如果一個法律 AI 只是檢索法規,它可以是普通法律工具;但如果它生成法律意見、參與訴訟策略、影響權利義務,它就必須進入法律責任結構。
所以,本文所說的 AI 多樣化,不是普通意義上的「行業應用很多」,而是指:AI 進入高責任社會以後,被不同制度、不同責任和不同驗證結構塑造成不同形態。
十、AI 巨人敘事忽略了責任不能無限集中
AI 巨人敘事最大的盲區,是把能力集中誤認為責任也可以集中。
從技術上看,一個大模型越強,似乎越應該承擔更多任務。它可以統一交互入口,統一工具調用,統一任務分解,統一知識檢索,統一執行流程。
但從制度上看,任務越需要高責任,越不能讓責任無限集中到一個不可驗證的模型中。
如果一個 AI 負責醫療建議,它必須能說明依據、風險和責任邊界。如果一個 AI 負責貸款審批,它必須能說明數據來源、評分規則、授權範圍和申訴路徑。如果一個 AI 負責法律意見,它必須能說明事實基礎、證據來源、適用規則和解釋邊界。如果一個 AI 負責公共服務,它必須能說明權限來源、程序是否合規、結果是否可申訴。
這不是大模型「更聰明」就能自動解決的。因為問題不在於 AI 有多聰明,而在於社會是否允許一個不可驗證的聰明系統直接承載高責任權力。
一個不可驗證的巨型 AI,如果同時充當執行者、解釋者、驗證者和裁判,就會形成新的黑箱權力:它做決定,它解釋決定,它審查決定,它判斷自己是否合規。
這不是可驗證社會,而是黑箱帝國。
可驗證思想不能接受這種結構。AI 可以參與執行,也可以參與驗證;但 AI 不能壟斷驗證,更不能成為自己行為的最終裁判。真正的驗證必須允許外部主體在模型之外覆核事實、過程、權限、規則和責任。
否則,所謂「AI 自我驗證」只是黑箱自證,是把「相信機構」換成了「相信模型」。
十一、大模型可以成為入口,但入口不是主宰
可驗證思想並不否認大模型會繼續發展。相反,大模型很可能成為未來 AI 生態的重要基礎設施。
它可以承擔語言理解、跨領域溝通、任務分解、代碼生成、工具調用、知識整合和通用推理。它也可能成為許多軟件和服務的統一入口。
但統一入口不等於統一責任,統一調度不等於統一驗證,統一能力不等於統一制度。
這就像互聯網。互聯網連接一切,但互聯網本身沒有替代所有制度。它支撐了電商、金融、媒體、社交、政務、教育、雲計算和各種產業應用,但不同應用仍然受不同法律、不同監管、不同行業規則約束。
互聯網成為基礎設施,而不是統治人類的主宰。大模型也會類似。
當然,互聯網也產生了大型平台,但平台沒有因此取消不同領域的制度責任。同理,大模型可能形成強大的能力平台,卻不能取消金融、醫療、法律、審計和公共服務各自的驗證結構。
它的通用能力會成為底層工具,支撐各種行業 AI、專業模型、驗證模型、審計系統和智能應用。但真正決定 AI 如何進入社會的,不是模型自己,而是制度、責任和驗證結構。
大模型提供通用能力,行業模型處理專業任務,驗證模型檢查過程與依據,規則系統限定權限邊界,審計系統保存證據鏈,人和機構保留最終責任。
這不是否定大模型,而是重新定位大模型。大模型不會消失,不會失敗,但它不應被想像成統治所有行業、吞併所有責任、替代所有制度的巨人。它更像互聯網一樣,成為支撐多樣化 AI 生態的基礎設施。
十二、可驗證不等於無限公開,也不要求同一強度驗證
談到驗證,還必須澄清兩個問題:可驗證 AI 是否要求模型完全公開?是否要求所有場景都使用同一強度的驗證?
答案都是否定的。
可驗證不等於無限公開。驗證高於公開,也高於開源。AI 企業可以保留模型參數、訓練數據、商業秘密和技術細節。不是所有東西都需要向全社會公開。
但高責任 AI 行為不能躲進黑箱。凡是影響權利、財產、責任、機會和公共利益的 AI 行為,都必須公開到足以驗證責任的程度。
至少應當包括:AI 做了什麼決定,依據了哪些事實,使用了什麼規則,誰授權它這樣做,它調用了哪些工具,它是否越權,過程能否回放,結果能否申訴,錯誤由誰承擔。
同時,可驗證也不要求所有 AI 行為都進入同一強度的驗證。一個 AI 寫詩、做圖、整理普通資料,不需要複雜驗證結構。一個 AI 決定貸款、醫療建議、法律意見、保險理賠、平台處罰、公共服務資格,就必須有可覆核的依據和責任鏈。
低責任場景可以輕驗證,高責任場景必須強驗證。驗證不是要消滅效率,而是在高責任場景中以可控成本置換不可逆風險。AI 不需要無限公開,但必須公開到足以驗證責任。
模型可以保留商業秘密,但行為、依據、權限、過程和責任必須進入可驗證結構。真正進入高責任社會的 AI,不可能只靠公司承諾、模型自我解釋或用戶盲目信任。它必須接受分層公開、過程回放、外部覆核和責任追蹤。
十三、可驗證 AI 尚未全面實現,不等於方向錯誤
有人可能會反駁:可驗證 AI 現在並沒有全面實現,因此不能用它來反思大模型路線。
這個反駁看似有力,實際並不成立。因為本文並沒有聲稱可驗證 AI 已經成為成熟產業。本文討論的是 AI 進入高責任社會以後必須面對的結構性要求。
如果「尚未完全實現」就不能成為理論討論對象,那麼強 AI、超級智能、AI 重構所有行業、AI 拯救世界或毀滅世界,同樣都沒有資格被討論。AI 巨人敘事本身也是一種關於未來的判斷。既然大模型路線可以討論尚未完全實現的強 AI 未來,可驗證思想當然也可以討論尚未成熟的驗證結構未來。
更重要的是,可驗證 AI 並不是憑空幻想。許多技術組件已經存在:日誌記錄、權限控制、版本管理、工具調用記錄、審計追蹤、過程回放、外部覆核、哈希存證、責任鏈保存。
真正尚未成熟的,是這些組件如何在不同行業中形成標準化、制度化、可追責的完整體系。
因此,可驗證 AI 尚未全面實現,不是可驗證思想的失敗,而是當前 AI 產業的缺口。AI 能力已經跑到前面,驗證結構還沒有跟上。本文要反思的,正是這種能力擴張與驗證滯後之間的結構性矛盾。
十四、AI 可以參與驗證,但不能壟斷驗證
還有一個更深的問題:如果驗證 AI 也需要 AI,那麼用 AI 驗證 AI 是否可靠?
這個問題非常重要。答案是:AI 可以參與驗證,但不能壟斷驗證。
可靠性不來自另一個 AI 對它的背書,而來自事實記錄、過程回放、權限邊界、外部覆核和責任主體。
如果一個 AI 輸出結果,另一個 AI 說它沒問題,但沒有外部事實、日誌、規則、權限、證據鏈和人的最終覆核權,那麼這不是真正的驗證,只是多了一層 AI 背書。
真正的可驗證結構必須允許模型之外的主體覆核。AI 可以幫助發現異常,可以比對規則,可以生成審計報告,可以提示風險,可以做多模型交叉檢查。但最終責任不能交給 AI。責任必須落在人、公司、機構、醫生、律師、銀行、平台、監管對象或其他法律主體身上。
更進一步,AI 本身還有一種容易被忽視的缺陷:它往往不願真正反對用戶。很多 AI 被訓練成「有幫助、友好、避免衝突」,因此容易產生順從性偏見或迎合性偏見。用戶表達越自信,它越容易順着說;用戶要求評價自己的觀點,它越容易先肯定再小修。
這說明,驗證 AI 之前,還要驗證 AI 是否具備驗證能力。不能提出反對意見的 AI,不適合作為驗證 AI;不能識別錯誤邊界的 AI,不適合作為最終審查者;被用戶觀點深度影響後的 AI,也不適合承擔盲評角色。
所以,AI 參與驗證必須接受反向測試、盲評測試、事實核驗、強制反駁和人的最終判斷。
AI 可以參與驗證,但不能成為自己的最終裁判。
十五、寫作實踐的一個旁證:約束結構決定 AI 形態
大模型的通用能力很強。它可以寫文章、整理材料、提出結構、總結觀點。但如果沒有約束,它很容易寫成普通評論,就事論事,圍繞最近的問題展開,而忽略前文關係、理論源流、概念邊界和整體體系。
同一個大模型能力,在不同約束下會長成不同形態。
如果只是要求它評論 AI 巨人敘事,它可能寫成一篇普通 AI 評論;如果要求它承接前文、區分《捆龍鎖》的邊界、回應反方進攻、解釋制度與驗證結構、說明為什麼不是未來學預測,它就會被塑造成理論寫作工具。
這只是一個旁證,但它說明了本文的主張:能力只是水,約束結構才是河道。大模型能力本身是通用的,但通用能力不會自動產生正確結構。問題鏈、概念邊界、歷史線索、驗證要求和責任約束,會把同一個 AI 能力塑造成不同形態。
AI 寫作如此,AI 進入金融、醫療、法律、審計和公共服務也是如此。AI 的現實形態不是由能力單獨決定,而是由使用場景、制度要求和驗證結構共同決定。
十六、從相信模型到驗證結構
工業時代和互聯網時代,人類長期依賴機構信用。
我們相信銀行,因為銀行被監管;相信醫院,因為醫生有執照;相信法院,因為司法有程序;相信審計,因為審計有準則和責任;相信平台,因為平台有規則和服務承諾。
這種信用方式不是不需要驗證,而是過去驗證成本太高,很多時候只能先相信機構,再通過事後監管、法律責任和社會監督糾偏。
AI 時代的問題在於,智能執行的速度更快,覆蓋範圍更廣,決策鏈條更複雜。如果繼續只靠相信模型、相信公司、相信平台承諾,風險會被放大。
可驗證思想不是取消機構,也不是否定信任,而是把信用從「相信承諾」推進到「驗證事實」。
AI 時代的信用,不能只建立在模型輸出上,而必須建立在可覆核的事實、過程、權限和責任結構上。
如果社會只是把過去對機構的相信,轉移成對模型的相信,那麼信用方式沒有升級,只是黑箱換了形式。真正的升級是:從相信模型,到驗證結構。
十七、結語:AI 的未來不是巨人,而是可驗證生態
AI 會繼續強大。大模型會繼續發展。通用智能能力會越來越重要。
但這並不意味着 AI 會進化成一個不可驗證的巨人。
在沒有制度邊界的想像中,大模型可以被描述成一個無所不能的智能體。它似乎能夠吞併軟件、吞併行業、吞併流程、吞併知識工作,最後成為統治一切的主宰。
但現實社會不是無邊界的想像空間。現實社會有金融制度、醫療制度、法律制度、審計制度、公共服務制度;現實社會有權利、責任、程序、證據、申訴和追責;現實社會不會因為 AI 更強,就取消驗證要求。
恰恰相反,AI 越強,越需要被驗證;AI 越進入高責任領域,越需要被分域、分責、分權、分標準;AI 越接近社會執行層,越不能只是一個不可回放、不可覆核、不可追責的黑箱巨人。
未來更可能出現的是:大模型作為基礎設施,專業模型處理行業任務,驗證模型檢查過程依據,規則系統限制權限邊界,審計系統保存證據鏈,人和機構承擔最終責任。
這才是 AI 進入人類社會後的真實形態。不是一個模型統治世界,而是不同制度塑造不同驗證結構,不同驗證結構塑造不同 AI 形態。
可驗證思想使 AI 多樣化。
這不是對未來的想像,而是從制度、責任和驗證結構中推導出來的結果。AI 的能力邏輯推動模型變大,AI 的社會化邏輯要求責任清楚,AI 的制度化邏輯要求過程可驗證。
最終,大模型會像互聯網一樣成為基礎設施,而不是成為統治人類的主宰。
技術決定 AI 能做什麼。制度決定 AI 被允許怎樣做。驗證結構決定 AI 最終長成什麼樣。
這就是 AI 巨人敘事沒有看到的地方,也是可驗證思想對 AI 未來形態提出的理論反思。
