
大模型研究爭議:從論文結論到證據邊界
摘要
一篇由智能體寫出的論文收到了足以過審的分數,另一個系統在數學家研究已久的問題上找到了更大的點集。哪一件事更能說明機器參與了發現?前一件事覆蓋的研究環節更多,後一件事留下的證據卻更容易獨立檢查。兩者之間還有一個有意思的測試:把一篇已發表論文的結論藏起來,只給智能體研究問題,看它能不能憑實驗把結論找回來。讀這三項工作,先問交到讀者手裡的究竟是什麼,再問誰有能力把它推翻。工作坊實驗、重發現基準、點集構造
一篇過審稿,分母從哪裡算起?
Lu 等人做了一次真實的投稿實驗。他們把 ICLR 工作坊的寬泛主題交給系統,請它提出想法、寫代碼、做實驗併成文。研究者在各階段篩選候選,看想法是否切題、代碼能否正確實現想法並運行、稿件格式是否合格。作者報告,入選稿從構思到寫作的內容沒有經過人工修改。這裡的兩個動詞值得分開讀:改寫會改變留下的內容,篩選會改變哪些內容能走到下一步。一次研究可以沒有人工改寫,同時相當依賴人工篩選。Lu 等,Human evaluation results
最終有三篇送審。評審知道投稿中有機器生成的作品,但不知道具體是哪幾篇。其中一篇報告了組合正則化嘗試的負結果,收到了兩份弱接收和一份接收意見。組織者認為它很可能獲接收,研究團隊隨後依照預定方案撤稿。正式發表在《自然》的是團隊研究這套系統的論文。把兩層稿件的作者和去向理清,才能看見這次實驗最有意思的結果:一項沒有得到預期改善的工作,也可以被同行認為值得討論。Lu 等,圖 2 與 Limitations
如果要問“再啟動一次,產出同樣質量稿件的機會多大”,就不能拿三篇當作所有嘗試。早期淘汰的想法也耗費資源,負責排除錯誤實現的人還提供了判斷。作者認為不做篩選也會生成選中的稿件,只是還會生成更多稿件、花費更高。這個解釋可以成立,但沒有給出同預算下取消篩選的成對結果。過審記錄支持一條實際走通的路徑,無法單獨估計無人篩選時的產出率。想把結論推進一步,需要看被丟棄的分支,以及同一筆預算原本還可以用來做什麼。Lu 等,Human evaluation results
把結論藏起來,智能體能重新找到它嗎?
Wang 等人的 FIRE-Bench 換了交付物。出題人先找到一篇有明確實驗發現的論文,再給智能體一個較高層的研究問題,隱藏原來的實驗設計、實現細節和分析路徑。這樣既留下了選擇方法的餘地,也有一份可用於比對的參考結論。這裡的“重發現”有明確的參照範圍:對做題者來說需要自行尋找,對研究共同體來說已有文獻記錄。僅憑命中參考結論,無法把成果登記為首次發現。Wang 等,會議版與作者稿圖 1 後的任務定義 方法全文
評分也值得細讀。評測器把報告與參考文本拆成可以分別判斷的主張,再用語言模型判斷它們在語義上是否相符。精確率關心報告寫出的主張有多少得到參考支持,召回率關心參考中的主張有多少被報告找回,F1 將兩者合在一起。會議版報告,受測系統中表現最好的平均 F1 仍低於 50(百分制)。把它讀成“不到一半實驗做成功”會換掉計數單位。一份報告完全可能做完實驗、說對變化方向,同時漏掉現象出現的條件。Wang 等,會議版摘要 作者稿 Claim matching and scoring
反過來想,假如一份報告發現了參考論文從未討論的例外,現有分數會怎樣處理?按作者稿的匹配規則,沒有參考主張支持的輸出會計入假陽性。這個約定便於比較誰更好地找回了已知現象。至於例外究竟來自新觀察、實驗錯誤還是寫作者的猜測,要回到運行記錄,設計能讓三者給出不同預測的實驗。用另一個裁判重新閱讀同一段話,可以減少措辭理解上的分歧,卻無法補上缺失的觀測。Wang 等,Claim matching and scoring;例外情形為本文設想

圖中箭頭表示檢查對象與檢查方式的配對。論文記錄了相應評審、匹配或構造結果;獨立重做經驗實驗能否得到相同結論,仍需另行檢驗。
一個點集,為什麼比一句“有新意”更容易核查?
FunSearch 研究中的帽集問題有一條簡短的規則。可以把每個點寫成一串座標,每一位只取零、一或二,加法按模三計算。目標是挑出儘可能多的點,又不讓任何三個不同的點處在同一條有限幾何直線上。這個定義給讀者留出了複核入口:拿到點的清單後,對每一對不同點都能求出直線上剩下的第三點,再看它是否也在清單裡。檢查者可以另寫程序,完全不必知道生成者走過哪條搜索路徑。Romera-Paredes 等,圖 3、圖 4
研究者預先規定如何構造合法集合,語言模型參與搜索一個給候選點排先後的優先級函數。每次選擇都可能排除後續候選,所以即使每步都合法,最終留下多少點也取決於順序。作者在八維問題上找到了包含 512 個點的構造,圖中列出的此前最好構造為 496 個點。這個結果有清楚的數學含義:該維度下至少能放下這麼多點。若要聲稱它已經最大,還要排除所有更大的合法集合,那需要另一種證明。Romera-Paredes 等,圖 4a–b
再看同一圖的後兩欄。模型搜索留下的是能生成點集的優先級函數,研究者隨後檢查向量的排列和座標規律,手工整理出更直接的構造。一個解決了“怎樣找到它”,另一個讓同行更容易看清“它由哪些部分組成”。把後者全算作模型自己的解釋,會抹掉論文裡可追蹤的人類貢獻。反過來,因為問題和檢查規則由人提供,就把新增的點集也說成單純的文書自動化,同樣解釋不了舊下界為什麼被推高。Romera-Paredes 等,圖 4b–c、附錄 E.2
偶然找到和穩定找到,也可以同時研究。作者稿附圖 A.3 報告,在這個八維任務的 140 次實驗中,有 4 次找到 512 點構造。對存在性命題,有一個合法例子就足夠;對準備投入相同資源的下一個研究者,其他嘗試同樣重要。前者關心見證對象是否合法,後者關心搜索過程在給定條件下的回報。罕見成功可以產生可靠的數學知識,而一次可靠的數學發現對日常產出的穩定性仍然只提供有限信息。Romera-Paredes 等,作者稿附圖 A.3
哪些差異值得放在一起比較?
三項工作的起點各不相同。一項從工作坊主題出發,允許產生許多想法;一項從已發表工作的研究問題出發,把路徑留給智能體;還有一項連合法性的規則都已固定。它們沒有共享同一個基礎模型,也沒有對齊訓練資料、推理預算、篩選人時或測試劃分。工作坊稿件面對的是審稿人,重發現任務有預先選定的參考發現,數學構造則在固定維度接受約束檢查。把過審篇數、主張分數和點集大小排在同一條成績軸上,會丟掉各自最值得保留的信息。工作坊協議 基準定義 構造任務
一個更有用的比較,是問每項結果還容許什麼解釋。稿件可能確實提出了有價值的經驗觀察,也可能因為把已知做法的侷限講得清楚而值得交流。重發現得分可能來自設計了合適對照,也可能含有模型從以往閱讀中記住的知識;題面沒有給出答案,不能保證模型訓練時從未見過相關材料。數學例子收緊了這種不確定性,因為一個超出論文所列舊記錄的合法構造自身就有信息量。不過,給出怎樣的程序框架才容易找到它,以及在相同資源下其他搜索方法表現如何,仍是獨立的問題。
一個可以實際區分解釋的後續實驗
可以從一個小型、可公開重跑的排序問題開始。假設研究組關心“輸入中出現大量重複鍵時,哪種排序策略會失去原有優勢”。先界定優勢指運行時間還是比較次數,把實現、硬件和輸入生成規則固定。將一種此前公開描述過的性能現象作為重發現任務,再預留一批新生成、對參與者不可見的輸入,用於檢查額外預測。這裡的排序例子是一項研究設計,尚無實驗結果。
給各組同樣的起始模型、工具和時間。一組只讀題面與公開資料後寫預測,一組允許執行代碼並據此修改假設,第三組在同樣的執行預算下允許研究者篩選分支。每次篩選須保留入選與被淘汰的候選,記錄人用了多少時間、是否看過性能結果。只讀組也保留足夠的推理時間,否則“能做實驗”的收益可能混入總資源差異。各組提交同樣簡短的產物:預期在哪些輸入上發生變化、方向如何、哪種結果會推翻自己的解釋。
在這個例子裡,“重複鍵越多,算法越慢”還不夠具體。同樣比例的重複鍵可以擠在一段,也可以散佈在整個輸入中。如果報告把耗時增加歸因於比較次數,就應當預告,改變重複鍵的位置之後,比較次數與耗時是否還會一起變化。若兩者分開變化,即使時間趨勢猜對了,關於原因的那半句也應單獨記為未獲支持。這樣評估者才有機會區分碰巧猜對方向和找到了可檢驗的解釋。
鎖定預測之後,再由另一位執行者用獨立實現重跑,並打亂報告的來源標記。若允許實驗的一組只在參考結論匹配上領先,新增預測在保留輸入上沒有優勢,結果主要支持更好的重發現。若執行組能預告一個在獨立實現中仍存在的邊界條件,並且檢索不到此前已報告的相同條件,就值得把它列為候選新發現,公開輸入供同行尋找反例。若優勢集中在有人篩選的一組,則要連同人時和篩選依據一起報告。到預定預算就停止,把無預測、方向錯誤和實現失敗都計入,才能避免只展示最幸運的軌跡。
總結
讀到“智能體完成了發現”,可以先索取一個具體對象:一篇稿件、一條帶實驗條件的預測,或者一份可以逐項檢查的構造。接著問兩件事:相對於哪份舊知識,這個對象增加了什麼?換一個沒有參與篩選的人,他能憑什麼重新得到或推翻它?工作坊評審、已知結論匹配與有限集合檢查各回答了一部分。把主張寫到證據剛好能到達的位置,也就能把應當歸給系統、研究者和後續驗證者的貢獻說清楚。
參考資料
- Chris Lu 等,2026,Towards end-to-end automation of AI research,Nature 正式論文。
- Zhen Wang 等,2026,FIRE-Bench: Evaluating AI Agents on the Rediscovery of Scientific Insights,ICML 正式論文。文中方法定位另見作者早期全文。
- Bernardino Romera-Paredes 等,2023 年在線、2024 年卷期,Mathematical discoveries from program search with large language models,Nature,引用位置對應作者接收稿。
作者作品推廣
除了寫技術博客,我也在做一些讓日常更有條理的小工具,歡迎瞭解我獨立開發的兩款 App:
- 日常收支小記:記下收支,也給每一筆錢安排好去處。記錄日常賬目,安排預算與儲蓄目標。在 App Store 瞭解。
- 一事微光:從一件小事開始,讓今天多一點微光。按當下的時間和精力選擇行動,記錄完成後的感受與發現。在 App Store 瞭解。
更多技術文章和個人作品,歡迎來我的網站:zffjzz.top。也歡迎把使用感受告訴我,讓這些小工具慢慢變得更好。