AI 前沿觀察|解讀日期 2026 年 11 月 13 日|資料截至北京時間 20:30:38
一條只會數長度的規則,在 Llama 的測試中拿到了 0.9988 的 AUROC,幾乎能把陷入重複的回答和正常回答完全分開。可它一次也沒有在循環開始前發出警報。北京時間 11 月 12 日 21:43,蘇黎世聯邦理工學院的 Marco De Negri 等人向 arXiv 提交了 PREWARN 論文。作者用這個看似矛盾的結果追問了一件很實際的事:如果監控器的用途是給人留出叫停生成的時間,那麼它第一次報警時,模型已經寫到哪裡了?作者在提交記錄中註明論文獲 NeurIPS 2026 的 Interpretability as a Science 工作坊接收。論文及提交記錄

原創概念示意圖。紙帶上的燈標記一次報警,右側的環表示開始重複。
一條只在最後亮燈的規則
設想模型在解一道題,寫完“再代入上式”又回到同一步,把一段推導原樣寫了一遍,一直寫到輸出被截斷。回看記錄時,你能把光標移到那段推導第一次出現的地方,標出循環的起點。但在那個位置實時讀答案的人,眼前只有一段普通的推導。他還沒看到第二遍。這一前一後的信息差,正是預警問題值得單獨研究的原因。
作者把研究對象限定為持續重複直到耗盡輸出額度的回答,每次最多生成 4096 個 token,也就是模型逐次輸出的文本單元。中途重複但能自行結束的回答,按研究定義仍算正常。如此一來,達到上限就是一條很強的線索。長度規則只在觸頂的最後一個位置給高分。如果給整段回答打分時取所有位置中的最高分,它自然能把大量失敗樣本排在正常樣本前面。AUROC 衡量的正是這種排序能力。把高分留到最後一刻,排名照舊,可供干預的時間已經用盡。論文正文,第 2 節與表 1
怎樣給“早”找一個刻度
為了讓每條報警都有可比較的時刻,研究者先請模型裁判指出從哪裡開始打轉,再人工複核測試集中達到上限的回答。人工同意某段回答確實陷入循環時,也可能移動起點。在三個模型上,人工保留裁判所標起點的比例介於 74% 和 92% 之間,分母是已確認發生退化的裁判陽性樣本。選擇第一次循環的開頭作為零點,比等到同一句第二次出現再計時更嚴格。換一種標法,同一盞燈也會顯得亮得更早。實驗設置與侷限
接下來才輪到監控器。作者先在驗證集上選閾值,讓至多 5% 的正常回答曾觸發警報,然後固定閾值去看測試集。讀結果要問兩次。所有失敗回答裡,有多少從頭到尾至少響過一次?在那些響過的失敗回答裡,又有多少次首響趕在起點之前?前者是檢出率,後者是預警率。如果一個系統只在最有把握的幾條上發聲,即使每次都很及時,讀者仍需要知道它漏掉了多少條。評測協議,第 3 節
同一把尺子,量出相反的報警時機
真正能提前看到什麼?作者訓練了線性探針,相當於在模型的某一層接一個簡單讀數器,每生成一個 token 就從當時的內部狀態讀出風險分數。先看保持生成模型權重固定的方案。在人工複核的同來源測試中,Llama-3.1-8B-Instruct 有 284 條循環回答。探針檢出率按表中精度為 1.00,預警率為 59.4%,首次報警的中位位置在起點前 137 個 token。前面的長度規則也檢出了全部循環,首響中位位置卻落在起點後 2958 個 token。這兩個系統交給一個只想事後篩選壞回答的人,和交給一個要及時叫停生成的人,價值會很不一樣。實驗表 1
把讀數器換到 Mistral 的 7B 指令模型,315 條循環回答中約 99% 仍然觸發過警報,但在觸發警報的循環回答中,只有 26.2% 提前響過,首次報警中位位置晚了 108 個 token。Apertus 的 8B 指令模型則更接近 Llama,固定權重方案在 116 條循環回答上的首次報警中位位置提前了 172 個 token。這些探針結果是三個訓練隨機種子的彙總。實際面對一條新回答時,不能把中位提前量當成系統給用戶預留的固定緩衝時間。實驗表 1
報警之後,哪一步值得檢驗
作者還讓一個低秩適配器調整探針所讀的內部表示。看 Llama 同一層的對照,循環前 256 個位置中,被標記的比例從 8.7% 升到 48.8%,而按回答計的預警率從 59.4% 升到 65.5%。一段已經提前響過的回答再響十次,會增加位置覆蓋率,卻不會讓更多回答得到第一次提醒。更早的區間也出現了更多標記。對本來就需要寫很長的正確解答,這種持續報警會不會太吵?作者的代碼倉庫寫明瞭訓練設置和起點記錄格式,便於按回答長度重新分組檢查。實驗表 1 · 作者代碼倉庫
換一批題,這種提前量還會變。作者把兩個題目來源完整留作測試,Llama 固定權重方案在這些來源上的預警率降到 20%,首響中位位置也移到了循環開始之後。以上數字均來自作者實驗,本次檢索未找到獨立復現。論文第 4.3 節
我更想看到一次真正按警報行事的對照:讓同一批題分別照常生成、報警後停止、報警後重新採樣,同時記錄節省的 token、最終答對的題數和被誤截的正常長回答。論文測到的是警報出現的時機,作者把報警後的干預留作後續工作。倘若省下的主要是無效循環,正確解答也能保住,那麼“提前 137 個 token”才有了清楚的使用價值。眼下這個數字最可靠的用處,是幫我們看清一張漂亮的分類成績單究竟漏記了哪段時間。論文結論與侷限
參考資料
作者作品推廣
除了寫技術博客,我也在做一些讓日常更有條理的小工具,歡迎瞭解我獨立開發的兩款 App:
- 日常收支小記:記下收支,也給每一筆錢安排好去處。記錄日常賬目,安排預算與儲蓄目標。在 App Store 瞭解。
- 一事微光:從一件小事開始,讓今天多一點微光。按當下的時間和精力選擇行動,記錄完成後的感受與發現。在 App Store 瞭解。
更多技術文章和個人作品,歡迎來我的網站:zffjzz.top。也歡迎把使用感受告訴我,讓這些小工具慢慢變得更好。