聲明:本網站所有專欄文章均可自由轉載

可驗證思想使 AI 走向多樣化的未來

——對 AI 巨人敘事的理論反思

AI 正在成為這個時代最強大的技術變量。

它可以寫作、編程、翻譯、檢索、總結、推理、調用工具、生成方案,甚至開始進入企業管理、金融分析、醫療輔助、法律服務、教育訓練和公共治理等領域。大模型的出現,讓許多人第一次感覺到:軟件不再只是軟件,工具不再只是工具,機器似乎正在獲得一種可以橫向進入各個領域的通用智能。

正因為如此,AI 行業逐漸形成了一種強大的「巨人敘事」。一種聲音認為,AI 會不斷變大、變強、變通用,最後成為所有軟件、所有行業、所有知識工作的統一智能入口;另一種聲音則擔心,AI 最終會形成超級智能,擺脫人的控制,威脅人類自身。

這兩種聲音表面相反,底層卻共享一個前提:未來會出現一個越來越大、越來越通用、越來越中心化的 AI 巨人。樂觀派認為這個巨人會帶來繁榮,末日派認為這個巨人會帶來災難。

但可驗證思想提出第三種判斷:高責任社會不會允許一個不可驗證的 AI 巨人成為社會的基礎結構。AI 可以強大,但不能不可驗證;AI 可以通用,但不能無邊界;AI 可以成為基礎設施,但不能成為不受覆核、不受約束、不負責任的主宰。

本文要討論的,不是 AI 會不會繼續發展,也不是大模型有沒有價值,而是一個更基礎的問題:當 AI 進入真實社會以後,制度、責任和驗證結構會如何塑造 AI 的形態?

我的判斷是:可驗證思想會使 AI 多樣化。

這不是未來學式的預測,而是從制度結構出發的推理。

一、本文在可驗證思想系列中的位置

本文不是一篇孤立的 AI 評論,而是可驗證思想系列在 AI 問題上的進一步推進。

在前面的文章中,我已經從不同角度討論了 AI 與驗證的關係。

《AI 也必須被驗證:從可驗證金融到可驗證執行》提出了一個基本判斷:AI 一旦從回答問題走向執行任務,就不能只看輸出結果,而必須記錄授權、過程、依據和責任。

《如何為 AI 建立可驗證結構》進一步討論了 AI 執行如何留下過程記錄、如何形成回放路徑、如何讓外部主體能夠覆核 AI 的關鍵行為。

《人需要對 AI 擁有驗證權》強調,在 AI 參與金融、醫療、法律、招聘、平台處罰、公共服務等高責任場景時,人不能只是被動接受 AI 輸出,而必須保留最終覆核和申訴的權利。

《可驗證思想,是 AI 時代的捆龍鎖》則從更宏觀的層面說明:AI 是強大的力量,但強大的 AI 如果沒有驗證結構,就可能成為黑箱執行、責任逃逸、權力擴張和認知奴役的來源。可驗證思想不是反 AI,而是讓 AI 能夠被駕馭、被覆核、被追責的制度韁繩。

這些文章解決的是同一個方向上的不同問題:AI 為什麼必須被驗證?AI 執行如何被驗證?人為什麼需要驗證權?可驗證思想為什麼是 AI 時代的制度約束?

本文進一步推進,討論另一個更基礎的問題:當 AI 必須被可驗證結構約束以後,它會長成什麼形態?

所以,本文不是重複「AI 必須被驗證」,而是從這個前提出發,重新定位 AI 的未來形態。如果 AI 必須被驗證,而不同領域的驗證結構又不同,那麼 AI 就不會只沿着一個越來越大的巨人方向演化。它會被不同制度、不同責任、不同驗證結構塑造成多樣化生態。

因此,本文是 AI 的定位篇。從 AI 進入社會後的制度約束出發,推導 AI 為什麼會多樣化。

AI 具有通用能力,所以巨人敘事產生;AI 進入高責任社會,所以必須被驗證;不同制度產生不同責任,所以驗證結構不同;驗證結構不同,所以 AI 形態多樣化;大模型通用能力保留,但回到基礎設施位置。

這就是本文的完整邏輯。

二、AI 的巨人敘事來自通用能力

大模型之所以會激發「巨人想像」,不是沒有原因。

過去的軟件是功能型的。一個財務軟件處理賬目,一個醫療系統管理病歷,一個法律數據庫檢索案例,一個辦公軟件處理文檔。不同軟件之間邊界清楚,使用者必須理解流程、輸入信息、點擊按鈕、判斷結果。

大模型改變了這種關係。它可以用自然語言理解任務,可以調用工具,可以生成代碼,可以連接數據庫,可以操作軟件,可以把複雜任務拆成步驟。於是,人們自然會想像:如果一個模型能夠理解所有任務、調用所有軟件、掌握所有知識、協調所有流程,那麼它是否會成為所有軟件之上的統一智能層?

這就是 AI 巨人敘事的技術來源。

從能力角度看,這種想像並不荒謬。AI 的確有很強的通用性。語言、代碼、邏輯、文本、圖像、工具調用、知識整合,本身具有跨領域特徵。大模型越強,它就越像一個可以進入不同領域的通用能力底座。

如果只從能力出發,人們很容易得出一個結論:AI 會越來越大,越來越統一,越來越像一個巨人。

但問題在於,人類社會不是只由能力構成的。人類社會還由制度、責任、權利、風險、證據、程序和追責構成。

AI 能做什麼,是技術問題。AI 被允許怎樣做,是制度問題。AI 做錯以後如何覆核和追責,是驗證問題。

巨人敘事的缺陷就在這裏:它過度從技術能力推導社會形態,卻低估了制度和驗證結構對 AI 的反向塑造。

三、本文不是預測未來,而是推導未來

討論 AI 未來,很容易落入未來學的寫法。未來學常常問:未來會出現什麼?什麼技術會流行?什麼趨勢會擴張?什麼職業會消失?什麼產業會被重構?

這種寫法有價值,但也有明顯問題。很多未來判斷在幾十年後看起來似乎「說中了」,但人們往往記住了說中的部分,忘記了說錯的部分。一個人只要提出足夠多的未來想像,總會有一些片段被歷史選中。

真正有力量的理論,不是猜未來,而是解釋為什麼某種未來更可能被制度、技術和社會結構共同推出來。

熊彼特討論資本主義,不是靠猜測未來行業,而是抓住創新、企業家和創造性破壞這些內在機制。張維迎討論市場和企業家,也不是靠趨勢感,而是從產權、激勵、知識分散、制度約束和企業家判斷中推理社會經濟現象。本文採用的也是這種方法。

本文不是說:「我預測 AI 會多樣化。」本文說的是:AI 一旦進入高責任社會,就必須被驗證;不同制度產生不同責任;不同責任產生不同驗證結構;不同驗證結構必然塑造不同 AI 形態。

這是機制推理,不是未來預言。

制度決定責任,責任決定驗證結構,驗證結構決定 AI 形態。

或者更直接地說:技術決定 AI 能做什麼,制度決定 AI 被允許怎樣做,驗證結構決定 AI 最終長成什麼樣。

四、已有經濟學研究的相鄰判斷與本文的獨創位置

理論判斷不能只靠自我確認。一個新命題若值得提出,通常不是因為完全無人觸碰,而是因為許多一線研究已經看到局部現象,但尚未形成統一框架。因此,討論 AI 未來形態,也必須先做一次思想和經濟學意義上的遍掃。

已有經濟學研究已經從不同角度削弱了「單一 AI 巨人」的想像。任務經濟學把 AI 影響拆解為不同任務中的自動化、互補和新任務創造,而不是把 AI 當作一個統一替代物。Brynjolfsson 關於 「Turing Trap」 的討論提醒人們,AI 的方向並非只能模仿和替代人類,也可以被設計為增強人類能力。Acemoglu、Autor、Johnson 等人關於 pro-worker AI 的分析,同樣強調 AI 可以擴展人的技能和專業知識,而不必只是降低人工成本、替代勞動者。有關基礎模型市場集中度的研究也指出,前沿基礎模型可能存在集中趨勢,但這種集中不應自然擴散到所有下游應用和行業場景。還有關於 AI 知識聚合的研究表明,在多主題、多情境的知識環境中,單一 global aggregator 未必優於專業化、本地化、主題化的 local aggregators。

這些研究都很重要。它們說明,AI 的未來並非只有「一個越來越大的模型吞併一切」這一條路。任務不同、勞動關係不同、知識聚合方式不同、市場結構不同、上游基礎模型與下游應用的關係不同,都會使 AI 呈現某種多樣化壓力。

但這些相鄰判斷仍然主要從任務、勞動、知識、市場和競爭結構出發。本文的獨創位置不在於重複「AI 會有很多應用」或「專業模型會存在」,而在於從可驗證思想出發,提出另一條推導路徑:AI 進入高責任社會以後,必須面對制度、責任和驗證結構;不同領域的驗證對象、驗證主體、驗證標準和責任邊界不同,因此 AI 的現實形態也必然不同。

換句話說,經濟學研究已經看到 AI 多樣化的若干市場基礎和知識基礎;本文進一步指出,AI 多樣化還有一個更深的制度基礎:可驗證結構。任務會使 AI 分工,市場會使 AI 競爭,知識結構會使 AI 分層,而驗證結構會使 AI 被制度性塑形。這正是本文與普通市場判斷、專業模型判斷以及已有經濟學討論的區別。

五、能力通用不等於責任通用

AI 的能力可以通用,但責任不可能通用。這是理解 AI 未來形態的關鍵。

一個大模型可以同時懂金融、醫療、法律、審計、教育和企業管理。它可以閱讀財報,也可以總結病歷;可以檢索法律條文,也可以分析合同;可以寫程序,也可以生成市場報告。

但懂得一個領域的知識,不等於能夠承載這個領域的責任。

金融不是簡單的數字計算。它涉及賬戶、餘額、儲備、交易、授權、清算、核算、審計和法律責任。

醫療不是醫學知識問答。它涉及病歷、診斷依據、治療方案、風險告知、患者同意、醫生責任和醫療規範。

法律不是法條文本匹配。它涉及事實認定、證據規則、程序正義、解釋邊界、代理責任和裁判後果。

審計不是報表摘要生成。它涉及憑證、合同、賬本、收入確認、成本歸集、異常識別和責任簽字。

公共服務不是流程自動化。它涉及權限來源、行政程序、公示義務、申訴機制、責任鏈條和公共監督。

這些領域不是知識集合,而是制度結構。大模型可以學習行業知識,可以調用行業軟件,可以輔助行業人員,但它不能因為「懂得很多」就自動吞併行業責任。

知識可以被模型吸收,責任不能被模型吸收。軟件可以被模型調用,驗證不能被模型吞併。接口可以統一,責任邊界不能統一。

巨人敘事常常把這幾件事混在一起。它看到大模型能夠調用軟件,就以為大模型可以吞併軟件;看到大模型能夠處理行業任務,就以為大模型可以吞併行業;看到大模型能夠輸出解釋,就以為大模型可以吞併驗證。

但這是錯誤的。AI 可以成為能力中心,卻不能成為所有責任的中心;AI 可以成為統一入口,卻不能成為所有行業驗證的最終裁判。

六、可驗證結構是 AI 進入現實社會後的河道

水本身沒有固定形狀。它可以流動,可以擴散,可以匯聚,也可以漫過邊界。

但水一旦進入現實世界,就會受到河道、堤壩、地勢和工程結構的約束。河道不是水的敵人,而是水能夠被使用、被引導、被控制、被分配的條件。

AI 的通用能力也是如此。

在沒有制度約束的想像中,AI 可以被描述成無所不能的巨人。它像一片無邊界的水,似乎可以流向所有領域、吞併所有軟件、完成所有任務。

但一旦進入金融、醫療、法律、審計、保險、招聘、教育、公共服務這些現實領域,它就必須進入不同的制度河道。

金融制度要求它留下賬戶、交易、授權、儲備和核算記錄。醫療制度要求它留下病歷依據、診斷路徑、風險提示和專業責任。法律制度要求它區分事實、證據、程序、規則和解釋邊界。審計制度要求它保留憑證、賬本、合同、異常和覆核路徑。公共服務制度要求它接受權限約束、程序審查、申訴機制和責任追蹤。

這就是可驗證結構。

可驗證結構不是簡單的技術插件,也不是給 AI 加一個說明按鈕。它是 AI 進入現實社會後必須接受的制度河道。

沒有驗證結構,AI 可以被想像成無邊界的巨人;有了驗證結構,AI 才能成為可覆核、可追責、可進入高責任社會的工具。

因此,AI 的未來不是單純由模型能力決定,而是由它進入社會後的制度位置決定。

七、用途決定軟件分化,制度決定驗證分化

不同領域的 AI 應用,首先會因為用途不同而分化。

金融 AI、醫療 AI、法律 AI、教育 AI、企業管理 AI、審計 AI,本來就會有不同功能。程式設計師和產品團隊可以根據現有軟件系統升級,把 AI 接入原有流程,使軟件更智能、更自動、更易用。

這是一種應用層分化。

但可驗證思想強調的,不只是用途分化,而是驗證分化。用途分化解決的是:AI 用來做什麼。驗證分化解決的是:AI 憑什麼被相信,如何被覆核,出了問題誰負責。

普通行業軟件的升級,可以由程式設計師根據需求完成。但高責任 AI 的驗證條件,不是普通程式設計師坐在辦公室里就能完整設計出來的。因為驗證條件是制度性問題。

金融 AI 的驗證條件,需要金融專家、銀行、審計人員、監管者和法律責任主體共同定義。醫療 AI 的驗證條件,需要醫生、醫院、醫學規範、患者權利和醫療責任體系共同定義。法律 AI 的驗證條件,需要律師、法官、證據規則、程序制度和司法責任共同定義。審計 AI 的驗證條件,需要會計準則、審計準則、憑證體系、企業財務實踐和法律責任共同定義。公共服務 AI 的驗證條件,需要行政法、公共程序、申訴機制、監督制度和責任機關共同定義。

所以,AI 多樣化不是簡單的市場競爭結果,也不是開發者偏好造成的。它來自更深的結構:用途決定軟件分化,制度決定驗證分化;驗證分化最終決定 AI 形態多樣化。

八、驗證結構圖譜:為什麼 AI 必然百花齊放

如果沒有驗證結構,人們可以想像一個巨大的通用模型包辦一切。但只要引入驗證,就會看到完全不同的圖景。

行業主要驗證對象主要驗證主體AI 形態的塑造方向
金融賬戶、餘額、儲備、交易、授權、核算、審計回放銀行、審計機構、監管機構、交易相關方金融執行 AI、風控 AI、審計驗證 AI、儲備驗證 AI
醫療病歷、診斷依據、治療方案、風險告知、患者同意醫生、醫院、患者、醫學規範制定者、監管機構醫療輔助 AI、診斷覆核 AI、風險提示 AI
法律事實、證據、程序、適用規則、解釋邊界、代理責任律師、法官、當事人、司法機構法律檢索 AI、證據覆核 AI、程序審查 AI
審計憑證、合同、賬本、收入確認、異常記錄、責任簽字會計師、審計機構、企業、監管者賬本檢查 AI、異常識別 AI、審計回放 AI
公共服務權限來源、行政程序、公示、申訴、責任鏈行政機關、公眾、監察機構、法院政務輔助 AI、程序合規 AI、申訴覆核 AI
表1:不同行業驗證結構圖譜

這裏的「驗證主體」主要指覆核責任主體與技術驗證執行者的組合。AI 可以參與檢查、提示和記錄,但最終法律責任仍應由人、機構或相應責任主體承擔。

這個圖譜說明,AI 多樣化不是從模型競爭推出來的,而是從驗證結構推出來的。不同領域需要不同驗證結構,AI 就必然百花齊放。

有些 AI 會偏執行,有些 AI 會偏判斷;有些 AI 會偏審計,有些 AI 會偏記錄;有些 AI 會偏覆核,有些 AI 會偏風險控制;有些 AI 會偏專業輔助,有些 AI 會偏公共監督。

未來不是一個 AI 巨人包辦所有事情,而是一個由通用模型、專業模型、驗證模型、規則系統、審計結構和責任主體共同組成的可驗證 AI 生態。

九、為什麼這不同於普通的專業模型判斷

有人可能會說,專業模型、行業模型、垂直模型,本來就是 AI 產業常見判斷,並不新鮮。

這種反駁只看到表面。普通專業模型判斷,通常從工程效率出發:通用模型太大、成本太高、行業數據不足、專業場景複雜,所以需要垂直模型。這種判斷沒有錯,但層次不夠。

本文討論的不是工程分工,而是制度塑形。工程分工解決效率問題,可驗證結構解決信用問題。

如下表所示,普通專業模型判斷與可驗證思想判斷的出發點和核心問題並不相同。

比較維度普通專業模型判斷可驗證思想的判斷
出發點成本、效率、數據、性能制度、責任、驗證、追責
核心問題模型怎樣把任務做得更好AI 憑什麼被相信、如何被覆核
分化原因行業任務不同、數據不同驗證對象、驗證主體、驗證標準、責任邊界不同
最終形態多個垂直應用或垂直模型通用模型、專業模型、驗證模型、規則系統、審計結構共同組成的生態
表2:普通專業模型判斷與可驗證思想判斷的差異

這個差異說明,本文討論的不是「行業應用會很多」這一普通判斷,而是高責任社會如何通過制度和驗證結構重新塑造 AI 的現實形態。

專業模型可以因為效率而出現,也可以因為數據而出現,還可以因為成本而出現。但高責任 AI 的真正分化,來自製度、責任和驗證。

如果一個醫療 AI 只是回答醫學問題,它可以是普通專業模型;但如果它參與診斷建議,它就必須進入醫療責任結構。

如果一個金融 AI 只是總結市場新聞,它可以是普通行業模型;但如果它參與貸款、風控、交易、儲備、審計,它就必須進入金融驗證結構。

如果一個法律 AI 只是檢索法規,它可以是普通法律工具;但如果它生成法律意見、參與訴訟策略、影響權利義務,它就必須進入法律責任結構。

所以,本文所說的 AI 多樣化,不是普通意義上的「行業應用很多」,而是指:AI 進入高責任社會以後,被不同制度、不同責任和不同驗證結構塑造成不同形態。

十、AI 巨人敘事忽略了責任不能無限集中

AI 巨人敘事最大的盲區,是把能力集中誤認為責任也可以集中。

從技術上看,一個大模型越強,似乎越應該承擔更多任務。它可以統一交互入口,統一工具調用,統一任務分解,統一知識檢索,統一執行流程。

但從制度上看,任務越需要高責任,越不能讓責任無限集中到一個不可驗證的模型中。

如果一個 AI 負責醫療建議,它必須能說明依據、風險和責任邊界。如果一個 AI 負責貸款審批,它必須能說明數據來源、評分規則、授權範圍和申訴路徑。如果一個 AI 負責法律意見,它必須能說明事實基礎、證據來源、適用規則和解釋邊界。如果一個 AI 負責公共服務,它必須能說明權限來源、程序是否合規、結果是否可申訴。

這不是大模型「更聰明」就能自動解決的。因為問題不在於 AI 有多聰明,而在於社會是否允許一個不可驗證的聰明系統直接承載高責任權力。

一個不可驗證的巨型 AI,如果同時充當執行者、解釋者、驗證者和裁判,就會形成新的黑箱權力:它做決定,它解釋決定,它審查決定,它判斷自己是否合規。

這不是可驗證社會,而是黑箱帝國。

可驗證思想不能接受這種結構。AI 可以參與執行,也可以參與驗證;但 AI 不能壟斷驗證,更不能成為自己行為的最終裁判。真正的驗證必須允許外部主體在模型之外覆核事實、過程、權限、規則和責任。

否則,所謂「AI 自我驗證」只是黑箱自證,是把「相信機構」換成了「相信模型」。

十一、大模型可以成為入口,但入口不是主宰

可驗證思想並不否認大模型會繼續發展。相反,大模型很可能成為未來 AI 生態的重要基礎設施。

它可以承擔語言理解、跨領域溝通、任務分解、代碼生成、工具調用、知識整合和通用推理。它也可能成為許多軟件和服務的統一入口。

但統一入口不等於統一責任,統一調度不等於統一驗證,統一能力不等於統一制度。

這就像互聯網。互聯網連接一切,但互聯網本身沒有替代所有制度。它支撐了電商、金融、媒體、社交、政務、教育、雲計算和各種產業應用,但不同應用仍然受不同法律、不同監管、不同行業規則約束。

互聯網成為基礎設施,而不是統治人類的主宰。大模型也會類似。

當然,互聯網也產生了大型平台,但平台沒有因此取消不同領域的制度責任。同理,大模型可能形成強大的能力平台,卻不能取消金融、醫療、法律、審計和公共服務各自的驗證結構。

它的通用能力會成為底層工具,支撐各種行業 AI、專業模型、驗證模型、審計系統和智能應用。但真正決定 AI 如何進入社會的,不是模型自己,而是制度、責任和驗證結構。

大模型提供通用能力,行業模型處理專業任務,驗證模型檢查過程與依據,規則系統限定權限邊界,審計系統保存證據鏈,人和機構保留最終責任。

這不是否定大模型,而是重新定位大模型。大模型不會消失,不會失敗,但它不應被想像成統治所有行業、吞併所有責任、替代所有制度的巨人。它更像互聯網一樣,成為支撐多樣化 AI 生態的基礎設施。

十二、可驗證不等於無限公開,也不要求同一強度驗證

談到驗證,還必須澄清兩個問題:可驗證 AI 是否要求模型完全公開?是否要求所有場景都使用同一強度的驗證?

答案都是否定的。

可驗證不等於無限公開。驗證高於公開,也高於開源。AI 企業可以保留模型參數、訓練數據、商業秘密和技術細節。不是所有東西都需要向全社會公開。

但高責任 AI 行為不能躲進黑箱。凡是影響權利、財產、責任、機會和公共利益的 AI 行為,都必須公開到足以驗證責任的程度。

至少應當包括:AI 做了什麼決定,依據了哪些事實,使用了什麼規則,誰授權它這樣做,它調用了哪些工具,它是否越權,過程能否回放,結果能否申訴,錯誤由誰承擔。

同時,可驗證也不要求所有 AI 行為都進入同一強度的驗證。一個 AI 寫詩、做圖、整理普通資料,不需要複雜驗證結構。一個 AI 決定貸款、醫療建議、法律意見、保險理賠、平台處罰、公共服務資格,就必須有可覆核的依據和責任鏈。

低責任場景可以輕驗證,高責任場景必須強驗證。驗證不是要消滅效率,而是在高責任場景中以可控成本置換不可逆風險。AI 不需要無限公開,但必須公開到足以驗證責任。

模型可以保留商業秘密,但行為、依據、權限、過程和責任必須進入可驗證結構。真正進入高責任社會的 AI,不可能只靠公司承諾、模型自我解釋或用戶盲目信任。它必須接受分層公開、過程回放、外部覆核和責任追蹤。

十三、可驗證 AI 尚未全面實現,不等於方向錯誤

有人可能會反駁:可驗證 AI 現在並沒有全面實現,因此不能用它來反思大模型路線。

這個反駁看似有力,實際並不成立。因為本文並沒有聲稱可驗證 AI 已經成為成熟產業。本文討論的是 AI 進入高責任社會以後必須面對的結構性要求。

如果「尚未完全實現」就不能成為理論討論對象,那麼強 AI、超級智能、AI 重構所有行業、AI 拯救世界或毀滅世界,同樣都沒有資格被討論。AI 巨人敘事本身也是一種關於未來的判斷。既然大模型路線可以討論尚未完全實現的強 AI 未來,可驗證思想當然也可以討論尚未成熟的驗證結構未來。

更重要的是,可驗證 AI 並不是憑空幻想。許多技術組件已經存在:日誌記錄、權限控制、版本管理、工具調用記錄、審計追蹤、過程回放、外部覆核、哈希存證、責任鏈保存。

真正尚未成熟的,是這些組件如何在不同行業中形成標準化、制度化、可追責的完整體系。

因此,可驗證 AI 尚未全面實現,不是可驗證思想的失敗,而是當前 AI 產業的缺口。AI 能力已經跑到前面,驗證結構還沒有跟上。本文要反思的,正是這種能力擴張與驗證滯後之間的結構性矛盾。

十四、AI 可以參與驗證,但不能壟斷驗證

還有一個更深的問題:如果驗證 AI 也需要 AI,那麼用 AI 驗證 AI 是否可靠?

這個問題非常重要。答案是:AI 可以參與驗證,但不能壟斷驗證。

可靠性不來自另一個 AI 對它的背書,而來自事實記錄、過程回放、權限邊界、外部覆核和責任主體。

如果一個 AI 輸出結果,另一個 AI 說它沒問題,但沒有外部事實、日誌、規則、權限、證據鏈和人的最終覆核權,那麼這不是真正的驗證,只是多了一層 AI 背書。

真正的可驗證結構必須允許模型之外的主體覆核。AI 可以幫助發現異常,可以比對規則,可以生成審計報告,可以提示風險,可以做多模型交叉檢查。但最終責任不能交給 AI。責任必須落在人、公司、機構、醫生、律師、銀行、平台、監管對象或其他法律主體身上。

更進一步,AI 本身還有一種容易被忽視的缺陷:它往往不願真正反對用戶。很多 AI 被訓練成「有幫助、友好、避免衝突」,因此容易產生順從性偏見或迎合性偏見。用戶表達越自信,它越容易順着說;用戶要求評價自己的觀點,它越容易先肯定再小修。

這說明,驗證 AI 之前,還要驗證 AI 是否具備驗證能力。不能提出反對意見的 AI,不適合作為驗證 AI;不能識別錯誤邊界的 AI,不適合作為最終審查者;被用戶觀點深度影響後的 AI,也不適合承擔盲評角色。

所以,AI 參與驗證必須接受反向測試、盲評測試、事實核驗、強制反駁和人的最終判斷。

AI 可以參與驗證,但不能成為自己的最終裁判。

十五、寫作實踐的一個旁證:約束結構決定 AI 形態

大模型的通用能力很強。它可以寫文章、整理材料、提出結構、總結觀點。但如果沒有約束,它很容易寫成普通評論,就事論事,圍繞最近的問題展開,而忽略前文關係、理論源流、概念邊界和整體體系。

同一個大模型能力,在不同約束下會長成不同形態。

如果只是要求它評論 AI 巨人敘事,它可能寫成一篇普通 AI 評論;如果要求它承接前文、區分《捆龍鎖》的邊界、回應反方進攻、解釋制度與驗證結構、說明為什麼不是未來學預測,它就會被塑造成理論寫作工具。

這只是一個旁證,但它說明了本文的主張:能力只是水,約束結構才是河道。大模型能力本身是通用的,但通用能力不會自動產生正確結構。問題鏈、概念邊界、歷史線索、驗證要求和責任約束,會把同一個 AI 能力塑造成不同形態。

AI 寫作如此,AI 進入金融、醫療、法律、審計和公共服務也是如此。AI 的現實形態不是由能力單獨決定,而是由使用場景、制度要求和驗證結構共同決定。

十六、從相信模型到驗證結構

工業時代和互聯網時代,人類長期依賴機構信用。

我們相信銀行,因為銀行被監管;相信醫院,因為醫生有執照;相信法院,因為司法有程序;相信審計,因為審計有準則和責任;相信平台,因為平台有規則和服務承諾。

這種信用方式不是不需要驗證,而是過去驗證成本太高,很多時候只能先相信機構,再通過事後監管、法律責任和社會監督糾偏。

AI 時代的問題在於,智能執行的速度更快,覆蓋範圍更廣,決策鏈條更複雜。如果繼續只靠相信模型、相信公司、相信平台承諾,風險會被放大。

可驗證思想不是取消機構,也不是否定信任,而是把信用從「相信承諾」推進到「驗證事實」。

AI 時代的信用,不能只建立在模型輸出上,而必須建立在可覆核的事實、過程、權限和責任結構上。

如果社會只是把過去對機構的相信,轉移成對模型的相信,那麼信用方式沒有升級,只是黑箱換了形式。真正的升級是:從相信模型,到驗證結構。

十七、結語:AI 的未來不是巨人,而是可驗證生態

AI 會繼續強大。大模型會繼續發展。通用智能能力會越來越重要。

但這並不意味着 AI 會進化成一個不可驗證的巨人。

在沒有制度邊界的想像中,大模型可以被描述成一個無所不能的智能體。它似乎能夠吞併軟件、吞併行業、吞併流程、吞併知識工作,最後成為統治一切的主宰。

但現實社會不是無邊界的想像空間。現實社會有金融制度、醫療制度、法律制度、審計制度、公共服務制度;現實社會有權利、責任、程序、證據、申訴和追責;現實社會不會因為 AI 更強,就取消驗證要求。

恰恰相反,AI 越強,越需要被驗證;AI 越進入高責任領域,越需要被分域、分責、分權、分標準;AI 越接近社會執行層,越不能只是一個不可回放、不可覆核、不可追責的黑箱巨人。

未來更可能出現的是:大模型作為基礎設施,專業模型處理行業任務,驗證模型檢查過程依據,規則系統限制權限邊界,審計系統保存證據鏈,人和機構承擔最終責任。

這才是 AI 進入人類社會後的真實形態。不是一個模型統治世界,而是不同制度塑造不同驗證結構,不同驗證結構塑造不同 AI 形態。

可驗證思想使 AI 多樣化。

這不是對未來的想像,而是從制度、責任和驗證結構中推導出來的結果。AI 的能力邏輯推動模型變大,AI 的社會化邏輯要求責任清楚,AI 的制度化邏輯要求過程可驗證。

最終,大模型會像互聯網一樣成為基礎設施,而不是成為統治人類的主宰。

技術決定 AI 能做什麼。制度決定 AI 被允許怎樣做。驗證結構決定 AI 最終長成什麼樣。

這就是 AI 巨人敘事沒有看到的地方,也是可驗證思想對 AI 未來形態提出的理論反思。

Share this article or Email subscribe:
X (Twitter)
Visit Us
Follow Me

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

返回頂端