孩子拿起只有树叶的卡片,摊开的手册里还藏着一把小纸伞

大模型研究争议:AI 走进日常之后

封面为虚构的亲子读物静物场景。

周五收书包,孩子问:“明天下雨,还去公园认树吗?”你点开昨天存的三行 AI 摘要:周六上午九点,亲子自然观察,带上记录本。时间没错,活动也没错。直到翻开图书馆的活动手册,你才发现,雨天那一场改在馆内认叶片标本。这个例子是虚构的。三行摘要足够让你决定要不要报名,却不够让你决定明早往哪儿走。

最值得找回的,是一旦补上,就会让你改答案的那几个字。它们有时是一个例外,有时是结果只对哪些人、在哪段时间里成立。没有证据说所有摘要最常漏掉同一种词;这里的“最要紧”有一个很朴素的标准:你准备用这段话做什么?如果只想知道活动主题,雨天安排可以暂时略过。如果已经站在路口,这一行就是正文里最重要的一行。

摘要里的话都能打勾,为什么还答不出来?

把手册和卡片并排摆好,会看见两种不同的毛病。如果原文明明写着周六,卡片却写周日,那是写错了。改回周六就行。如果卡片列了时间、活动和物品,把雨天安排整段省掉,每个留下来的词都可能有出处。沿着卡片往手册里核对,你会连打三个勾;沿着手册里的雨天条款往卡片里找,却会留下一个空格。这两个方向都该查,只查前一个,再认真也找不到那个空格。

还有第三种写法,介于两者之间。设想卡片写“九点在公园集合”。晴天这么读是对的,下雨这么读却会白跑。句子从原文拿到了地点,却没拿到使用这个地点的条件。把这类问题一律叫“编造”,容易错过修法:这里没必要叫模型重新编排整份行程,只要把原来分开的两种天气和对应地点放回同一句话。反过来,如果手册根本没有雨天条款,那就该写“手册未说明”,不能因为读者很需要这个答案便替主办方补上。

左边的原文卡有叶子和雨伞,中间的摘要卡只保留叶子,右边的放大镜检查缺少的天气条件

方法示意:叶子代表保留下来的主题,伞代表需要回原文查的条件。三处并排比较,没有因果箭头;图不是测量结果。

Elaraby 和 Litman 的研究把这种“倒着查”的办法用在了长文上。他们先从原文挑出对论证重要的内容,把一段话拆成可以分别核对的小事实,再去看摘要有没有写到。论文图一的例子很直观:摘要说签发过搜查令,也说到了涉嫌抢劫,可是读者看不出当时具体要搜什么。这并不推翻前面两件事;只要出题问搜查对象,缺口就显出来了。研究把缺失和矛盾分开标记,即使计算覆盖分时,两者都不能拿到“正确覆盖”的分。

什么算重要,也不是凭读者事后的不满意来定。研究用的法律文书有争点、理由和结论标注;科学材料是四十篇计算机图形学论文,研究者关注被标作与摘要高度相关的论证内容。他们用模型拆事实和辅助核查,所以这个办法本身也可能拆错。它衡量的是原文中选定的信息保留下来多少,并不替读者查清原文说得对不对,更没测过一次中文图书馆活动。这里借用的是核对方向,不是给手册套一个论文分数。

最有意思的对照:让谁来出题?

假如老师先读三行摘要,再问孩子“几点开始、带什么”,孩子很可能觉得卡片够用了。换一个读过手册的人来出题:“雨已经下起来了,应当去哪儿?”卡片一个字也没改,用起来却很不一样。差别在哪里?前面的题只能从已经留下的信息里取材;后一种出题方式才给漏掉的内容一个露面的机会。

Pu、Gao 和 Wan 的读者实验真的做过两套题。他们抽了一百组英文新闻和对应的人工参考摘要。一套题依据人工摘要写,另一套依据新闻原文写,每篇每套四问。二十名英语熟练的大学生分两组做不同来源的题;同一个人不会先读某篇原文再看它的摘要,靠刚才的记忆补答案。读者面前可能是原文、人工参考摘要,也可能是系统生成的摘要。他们要交的是自己的答案,研究者还记下完成任务花了多久。

先只看论文表一里的人工参考摘要。题目若据它而出,读者答案与标准答案完全匹配的比例是百分之五十四;拿原文来答这套题,约为百分之三十二。换到依据原文出的题,方向反过来:读人工摘要约为百分之二十七,读原文约为百分之五十一。这里打分的是人的答案。挑人工摘要这两行来读,是因为即使没有模型写错字,换一个出题起点,对“摘要够不够”的判断也会变。两套题由不同组作答,题目本身也不同,不宜把两个比例相减,说成同一个孩子换材料后会损失多少分。

表二还给出另一个实际取舍:做原文出的题时,各类摘要合并的平均完成时间约八十三秒,读原文约二百一十二秒。这是读材料并完成答题的时间,不是模型生成摘要的速度。完全匹配又是偏严格的标准,意思接近但措辞不同也可能拿不到分。论文另外算了词语重合程度;读者若只记住哪个模型排第一,就错过了这个实验最有用的地方:出题人是否有机会问到摘要之外的事,比先选一个评测分数更要紧。

这里也有为短摘要辩护的理由。同一研究还有给新闻选类别、判断两条报道是否相似的任务。判断要不要把文章放进同一栏,不一定需要知道每个名字和地点。题目只要求认出主题时,读者用摘要可以省下时间。不能据此说长文总是累赘,也不能因为手册没回答雨天去哪儿,就宣布这三行简介毫无用处。课堂里分发导读卡的老师,和准备据此答题的学生,用的可以是同一张纸,却有不同的理由给它打分。

少掉几个字,结论可能管得太宽

读论文时,这种缺口比“几点集合”更难看见。举个自拟的例子:“这次报名并完成练习的学生,在当天的小测中答对了更多题。”缩成“这种练习帮助学生学得更好”,看似把话说得更利落,却起码留下三笔没交代的账:没参加完的人怎样,隔周再考怎样,以及成绩差别能不能归到练习头上。即使把“帮助”改成“可能帮助”,读者仍不知道原先测的是哪批人和哪一天。语气变软并没有把样本和时间还回来。

Peters 和 Chin-Yee研究的正是这种措辞变化。他们对照科学原文与模型写的短文,区分结论是限定在所研究的情形,还是扩展成对一类对象的一般判断。表四里常见的一种扩展,是原文说明有多少或哪些对象符合,摘要却直接说这一类对象如何。它不需要凭空造出一个新数字,甚至可能因为删掉数字而变得更像常识。这里谈的是结论怎么写,不能拿来估计有多少读者会因此做错决定。

这项研究专门拿同一百篇医学文章的专业编辑摘要作了参照。大家都在压缩篇幅,如果一般化仅仅是“写短就只能这样”,专业摘要理应也显出类似倾向。在这组材料里,专业摘要相对原文的一般化差异没有达到统计显著;测试的模型全文摘要合并后,相对专业摘要,一般化结论的优势比为四点八五(表一、图二)。这个数比较的是出现与不出现这类结论的比值,不能译成“写错的概率是人的近五倍”。编辑与模型也没有被随机分配到完全相同的工作流程。这里有理由追查压缩时怎样取舍,却没有理由断言某个品牌今天必然删掉某一类词。

更不能把三篇论文拼成一条未经检验的故事:模型漏掉条件,所以家长一定走错路。第一篇看选定事实有没有进摘要,第二篇看特定读者能否用一种材料作答,第三篇看概括的范围有没有变。它们各自只照亮了一段。没有哪一篇把家长随机分到手册组和卡片组,等到下雨时去馆门口数人。真要给活动做摘要,还应允许一种结果:手册写得含糊,两种读法都说得通。那时要找的是主办方的补充说明,反复要求模型“更准确些”并不会产生新证据。

留一道摘要出不了的题

下面是可以立即试的读法,不是本篇做过的实验。挑一份自己确实要用的通知,先说清楚你下一步要做什么。若是挑活动,就问“主题是不是我感兴趣的”;若是准备出门,就问“哪一种情况会让我换地点”。先只看摘要,把答案写在一张纸上;找不到就留空,不准用常识填。再打开原文,只抄足以决定答案的那一句,看看要不要改纸上的字。一个空格最后填上了“雨天去馆内”,比五个没改动的集合时间更值得你用笔圈出来。

若有两个人,可以让一个人只看原文出题,另一个人只看摘要答。出题人要先给自己留一句有出处的答案,不能挑原文也没讲的冷知识为难对方。答题人可以写“不知道”;之后把两张纸放在一起,区分“摘要没写”“写了但我没找到”和“原文也没交代”。把“不知道”允许成一个正当答案,才能看见有多少把握来自文字,又有多少是自己悄悄补上的。

还可以用同一张纸给摘要做一次小修订。假设原文另有八行认树方法,而家长群的卡片只能放三行,你会删什么来给雨天的地点腾位置?如果是出门前发,我会删去对叶片颜色的介绍,保留两种天气的集合地点;如果是活动结束后给孩子做观察笔记,我会保留叶片颜色,把已经用过的集合地点删掉。即使原文一字不改,这两个版本都可以忠实。麻烦出在把观察笔记当成出门指南,递给别人时却忘了告诉他,这是用来做什么的。

读研究时也可以做同样大小的修订。与其在笔记末尾统一加一句“还有局限”,不如把“当天小测”四个字紧贴在结果旁边。过两周,哪怕你只复制了笔记里的那一句,时间条件也跟得过去。至于没测过的隔周表现,宁可让它留作真正的问题,不要让它在下一次摘录时变成一个似乎已有答案的结论。

今天若只留一个习惯,就留这一个:转述摘要前,试着说出一个会让这句话不成立的情形,然后翻原文看作者怎么处理它。做不到时,不妨把转述写窄一点:“手册说周六有活动,雨天的地点我还没查。”孩子现在就知道哪一件事已经定了,也知道出门前该翻哪一页。

参考资料


作者作品推广

除了写技术博客,我也在做一些让日常更有条理的小工具,欢迎了解我独立开发的两款 App:

  • 日常收支小记:记下收支,也给每一笔钱安排好去处。记录日常账目,安排预算与储蓄目标。在 App Store 了解。
  • 一事微光:从一件小事开始,让今天多一点微光。按当下的时间和精力选择行动,记录完成后的感受与发现。在 App Store 了解。

更多技术文章和个人作品,欢迎来我的网站:zffjzz.top。也欢迎把使用感受告诉我,让这些小工具慢慢变得更好。