AI 前沿观察|解读日期 2026 年 11 月 13 日|资料截至北京时间 20:30:38
一条只会数长度的规则,在 Llama 的测试中拿到了 0.9988 的 AUROC,几乎能把陷入重复的回答和正常回答完全分开。可它一次也没有在循环开始前发出警报。北京时间 11 月 12 日 21:43,苏黎世联邦理工学院的 Marco De Negri 等人向 arXiv 提交了 PREWARN 论文。作者用这个看似矛盾的结果追问了一件很实际的事:如果监控器的用途是给人留出叫停生成的时间,那么它第一次报警时,模型已经写到哪里了?作者在提交记录中注明论文获 NeurIPS 2026 的 Interpretability as a Science 工作坊接收。论文及提交记录

原创概念示意图。纸带上的灯标记一次报警,右侧的环表示开始重复。
一条只在最后亮灯的规则
设想模型在解一道题,写完“再代入上式”又回到同一步,把一段推导原样写了一遍,一直写到输出被截断。回看记录时,你能把光标移到那段推导第一次出现的地方,标出循环的起点。但在那个位置实时读答案的人,眼前只有一段普通的推导。他还没看到第二遍。这一前一后的信息差,正是预警问题值得单独研究的原因。
作者把研究对象限定为持续重复直到耗尽输出额度的回答,每次最多生成 4096 个 token,也就是模型逐次输出的文本单元。中途重复但能自行结束的回答,按研究定义仍算正常。如此一来,达到上限就是一条很强的线索。长度规则只在触顶的最后一个位置给高分。如果给整段回答打分时取所有位置中的最高分,它自然能把大量失败样本排在正常样本前面。AUROC 衡量的正是这种排序能力。把高分留到最后一刻,排名照旧,可供干预的时间已经用尽。论文正文,第 2 节与表 1
怎样给“早”找一个刻度
为了让每条报警都有可比较的时刻,研究者先请模型裁判指出从哪里开始打转,再人工复核测试集中达到上限的回答。人工同意某段回答确实陷入循环时,也可能移动起点。在三个模型上,人工保留裁判所标起点的比例介于 74% 和 92% 之间,分母是已确认发生退化的裁判阳性样本。选择第一次循环的开头作为零点,比等到同一句第二次出现再计时更严格。换一种标法,同一盏灯也会显得亮得更早。实验设置与局限
接下来才轮到监控器。作者先在验证集上选阈值,让至多 5% 的正常回答曾触发警报,然后固定阈值去看测试集。读结果要问两次。所有失败回答里,有多少从头到尾至少响过一次?在那些响过的失败回答里,又有多少次首响赶在起点之前?前者是检出率,后者是预警率。如果一个系统只在最有把握的几条上发声,即使每次都很及时,读者仍需要知道它漏掉了多少条。评测协议,第 3 节
同一把尺子,量出相反的报警时机
真正能提前看到什么?作者训练了线性探针,相当于在模型的某一层接一个简单读数器,每生成一个 token 就从当时的内部状态读出风险分数。先看保持生成模型权重固定的方案。在人工复核的同来源测试中,Llama-3.1-8B-Instruct 有 284 条循环回答。探针检出率按表中精度为 1.00,预警率为 59.4%,首次报警的中位位置在起点前 137 个 token。前面的长度规则也检出了全部循环,首响中位位置却落在起点后 2958 个 token。这两个系统交给一个只想事后筛选坏回答的人,和交给一个要及时叫停生成的人,价值会很不一样。实验表 1
把读数器换到 Mistral 的 7B 指令模型,315 条循环回答中约 99% 仍然触发过警报,但在触发警报的循环回答中,只有 26.2% 提前响过,首次报警中位位置晚了 108 个 token。Apertus 的 8B 指令模型则更接近 Llama,固定权重方案在 116 条循环回答上的首次报警中位位置提前了 172 个 token。这些探针结果是三个训练随机种子的汇总。实际面对一条新回答时,不能把中位提前量当成系统给用户预留的固定缓冲时间。实验表 1
报警之后,哪一步值得检验
作者还让一个低秩适配器调整探针所读的内部表示。看 Llama 同一层的对照,循环前 256 个位置中,被标记的比例从 8.7% 升到 48.8%,而按回答计的预警率从 59.4% 升到 65.5%。一段已经提前响过的回答再响十次,会增加位置覆盖率,却不会让更多回答得到第一次提醒。更早的区间也出现了更多标记。对本来就需要写很长的正确解答,这种持续报警会不会太吵?作者的代码仓库写明了训练设置和起点记录格式,便于按回答长度重新分组检查。实验表 1 · 作者代码仓库
换一批题,这种提前量还会变。作者把两个题目来源完整留作测试,Llama 固定权重方案在这些来源上的预警率降到 20%,首响中位位置也移到了循环开始之后。以上数字均来自作者实验,本次检索未找到独立复现。论文第 4.3 节
我更想看到一次真正按警报行事的对照:让同一批题分别照常生成、报警后停止、报警后重新采样,同时记录节省的 token、最终答对的题数和被误截的正常长回答。论文测到的是警报出现的时机,作者把报警后的干预留作后续工作。倘若省下的主要是无效循环,正确解答也能保住,那么“提前 137 个 token”才有了清楚的使用价值。眼下这个数字最可靠的用处,是帮我们看清一张漂亮的分类成绩单究竟漏记了哪段时间。论文结论与局限
参考资料
作者作品推广
除了写技术博客,我也在做一些让日常更有条理的小工具,欢迎了解我独立开发的两款 App:
- 日常收支小记:记下收支,也给每一笔钱安排好去处。记录日常账目,安排预算与储蓄目标。在 App Store 了解。
- 一事微光:从一件小事开始,让今天多一点微光。按当下的时间和精力选择行动,记录完成后的感受与发现。在 App Store 了解。
更多技术文章和个人作品,欢迎来我的网站:zffjzz.top。也欢迎把使用感受告诉我,让这些小工具慢慢变得更好。