
封面為 AI 生成的概念插畫,不是實際設備、系統架構或實驗結果。
- 解讀日期:2026-10-24
- 資料截止:2026-10-24 20:35:34(北京時間)
10 月 22 日,Anthropic 與 Theorem 公佈了一項 AI 輔助軟件形式驗證研究:團隊報告,Claude 為 123 個開源庫中的 239 個測試入口生成了安全性質證明。值得關注的,是這些結果開始以可檢查的證明文件交付。但“為軟件寫出證明”到底意味著什麼,必須回到具體命題。本文解讀的是兩天前的公告,不是今天新發生的實驗。研究公告
從試很多輸入,到證明一個命題
模糊測試會不斷生成輸入,尋找程序崩潰的情況;形式驗證則把要求寫成數學命題,再檢查推導是否成立。前者擅長找到反例,後者可以在明確前提下,對一個輸入範圍作整體論證。
這次工作把已有測試入口編譯成 RISC-V 二進制,再借助機器與操作系統模型定義要證明的性質,由 Claude 構造證明、Rocq 檢查。公告討論的範圍包括小於 64 MB 的輸入,並帶有單線程、靜態程序和固定內存預算等條件。方法與範圍
對科研讀者而言,重要變化是評價對象變得具體:不只閱讀模型寫出的“這段代碼應該安全”,還可以核對它交付的證明是否對應指定程序和指定要求。模型的語言說服力因此不再是最終裁判。不過,這種分工仍需要有人認真決定:究竟要證明什麼?
公告規模與公開樣本,必須分開看
本文核對的 OSS Verify 固定版本公開了 25 個庫、60 個入口的證明。這是公告成果的子集,不能把較大的研究總數直接當作公眾已經拿到的材料數量;更不能把“入口數”寫成“完全驗證的庫數”。公開版本說明
還有一個容易遺漏的細節:該版本的證明比較普通構建與加入運行時錯誤檢測的構建,說明它們在規定範圍內不發生所定義的錯誤,並具有相同的可觀察行為。README 明確指出,這批公開證明沒有證明終止性,因此不排除程序一直運行而不結束。命題與未覆蓋內容
這個區別並不削弱證明本身,卻會改變新聞標題。“沒有觸發指定錯誤”“一定會結束”“計算結果符合使用者需求”,是不同的要求。若把它們合併成一句“軟件不會出問題”,讀者就無法知道證據實際支持哪一層結論。
檢查器怎樣避免證明了另一件事?
檢查文檔說明,流程會核對二進制文件的 SHA-256,編譯證明,並用額外的包裝定義要求證明具有目標命題的類型;隨後審查所用假設,拒絕允許列表之外的假設。這些步驟分別約束“檢查了哪個文件”“證明了哪個命題”和“額外相信了什麼”。證明檢查機制
這裡最有研究價值的啟發,是把生成與驗收分開。假如模型可以同時修改題目、答案和評分方式,通過檢查就未必意味著解決了原問題。固定對象與驗收規則,能讓失敗留下可定位的原因,也讓後來者知道應該從哪裡重新檢查。
同時,文檔把額外的 rocqchk 檢查列為可選步驟,並說明默認 CI 不執行它。看到“機器檢查過”,仍應繼續問檢查的是哪條流程,不能自行補成“所有檢查方式都已通過”。本文閱讀了說明,沒有實際運行這些檢查。默認與可選檢查
數學推導正確,現實映射仍要審查
可信基底,就是整套論證仍然依賴的基礎組件與假設。項目列出的依賴不只有 Rocq 內核,還包括機器語義、文件轉換工具、檢查包裝邏輯及命題文本。它明確不對二進制與源代碼之間的關係作保證;證明指向的是哈希指定的字節。可信基底說明
這意味著,閱讀者需要把邏輯是否成立與模型是否貼近真實機器分開。LPS 是對運行 RISC-V 程序的 Linux 進程所作的形式模型,作者明確標註它仍不完整,並記錄了範圍與假設。某個版本模型中的結論,不能自動轉移到另一種運行環境。機器語義及限制
一個直觀類比是:可以嚴格證明某張地圖上的路線連通,但仍要檢查地圖是否遺漏了現實中的斷橋。對於軟件,版本、執行環境與使用方式共同決定這張“地圖”的適用範圍。指出邊界不是否定形式證明,而是讓它的保證能夠被正確使用。
接下來,什麼結果更有分量?
本文更期待看到三個後續信號:外部檢查能否穩定重做,語義模型的假設能否持續接受審計,以及代碼更新後維護證明需要多少投入。這些問題分別關係到可檢查性、現實適用性和持續使用成本。
規模比較也需要完整分母。後續研究若能同時報告嘗試了多少入口、哪些失敗、哪些受模型範圍限制,以及人工介入與總計算消耗,就更容易判斷進步來自哪裡。這是本文建議的評價方式,不是聲稱團隊已經完成了這樣的對照實驗。
當前材料支持一個審慎判斷:AI 正在把構造軟件證明變成值得系統研究的工作流程,但公開樣本尚不足以替整個軟件生態作安全保證。本次依據是研究公告和作者技術材料,不能視作多次獨立復現,也不作已同行評審論文介紹。本文未重跑證明或審計實現;真正值得持續追蹤的,是可核驗的保證怎樣擴展,同時仍保留清楚的邊界。
參考資料與閱讀範圍
- Anthropic:LLMs are making formal software verification feasible at a much larger scale,2026-10-22。已讀公告的方法、規模、限制與相關腳註;未審閱其鏈接的完整附錄,不使用附錄中的額外實驗結論。公告未給出具體發佈時區時間,實驗僅描述為持續數週。
- Theorem:OSS Verify README(固定版本)。已核對公開數量、命題說明、未覆蓋內容及版本信息;固定提交為
8f5f467,本輪未獨立確認其提交時間。 - Theorem:How a proof is checked。已讀檢查步驟、假設審查、可選檢查及 CI 說明,未執行命令。
- Theorem:What you have to trust。已讀全文,用於界定可信基底與二進制對象。
- Theorem:LPS: the Linux process semantics。重點閱讀狀態、設計原則與版本範圍;未獨立驗證形式模型。這些倉庫材料與公告屬於同一合作項目的證據。
作者作品推廣
以下是作者自有產品推廣。除了寫技術博客,我也獨立開發了兩款幫助整理日常生活的 App,歡迎瞭解:
- 日常收支小記:記錄日常收支,安排預算與儲蓄目標,讓每筆賬目和計劃更清楚。在 App Store 瞭解。
- 一事微光:根據當下的時間、精力選擇小行動,記錄完成後的感受,給日常復盤留下一點線索。在 App Store 瞭解。
更多技術文章與個人作品,歡迎訪問我的網站:zffjzz.top。也歡迎分享使用感受,幫助這些小工具逐步改進。