孩子拿起只有樹葉的卡片,攤開的手冊裡還藏著一把小紙傘

大模型研究爭議:AI 走進日常之後

封面為虛構的親子讀物靜物場景。

週五收書包,孩子問:“明天下雨,還去公園認樹嗎?”你點開昨天存的三行 AI 摘要:週六上午九點,親子自然觀察,帶上記錄本。時間沒錯,活動也沒錯。直到翻開圖書館的活動手冊,你才發現,雨天那一場改在館內認葉片標本。這個例子是虛構的。三行摘要足夠讓你決定要不要報名,卻不夠讓你決定明早往哪兒走。

最值得找回的,是一旦補上,就會讓你改答案的那幾個字。它們有時是一個例外,有時是結果只對哪些人、在哪段時間裡成立。沒有證據說所有摘要最常漏掉同一種詞;這裡的“最要緊”有一個很樸素的標準:你準備用這段話做什麼?如果只想知道活動主題,雨天安排可以暫時略過。如果已經站在路口,這一行就是正文裡最重要的一行。

摘要裡的話都能打勾,為什麼還答不出來?

把手冊和卡片並排擺好,會看見兩種不同的毛病。如果原文明明寫著週六,卡片卻寫週日,那是寫錯了。改回週六就行。如果卡片列了時間、活動和物品,把雨天安排整段省掉,每個留下來的詞都可能有出處。沿著卡片往手冊裡核對,你會連打三個勾;沿著手冊裡的雨天條款往卡片裡找,卻會留下一個空格。這兩個方向都該查,只查前一個,再認真也找不到那個空格。

還有第三種寫法,介於兩者之間。設想卡片寫“九點在公園集合”。晴天這麼讀是對的,下雨這麼讀卻會白跑。句子從原文拿到了地點,卻沒拿到使用這個地點的條件。把這類問題一律叫“編造”,容易錯過修法:這裡沒必要叫模型重新編排整份行程,只要把原來分開的兩種天氣和對應地點放回同一句話。反過來,如果手冊根本沒有雨天條款,那就該寫“手冊未說明”,不能因為讀者很需要這個答案便替主辦方補上。

左邊的原文卡有葉子和雨傘,中間的摘要卡只保留葉子,右邊的放大鏡檢查缺少的天氣條件

方法示意:葉子代表保留下來的主題,傘代表需要回原文查的條件。三處並排比較,沒有因果箭頭;圖不是測量結果。

Elaraby 和 Litman 的研究把這種“倒著查”的辦法用在了長文上。他們先從原文挑出對論證重要的內容,把一段話拆成可以分別核對的小事實,再去看摘要有沒有寫到。論文圖一的例子很直觀:摘要說簽發過搜查令,也說到了涉嫌搶劫,可是讀者看不出當時具體要搜什麼。這並不推翻前面兩件事;只要出題問搜查對象,缺口就顯出來了。研究把缺失和矛盾分開標記,即使計算覆蓋分時,兩者都不能拿到“正確覆蓋”的分。

什麼算重要,也不是憑讀者事後的不滿意來定。研究用的法律文書有爭點、理由和結論標註;科學材料是四十篇計算機圖形學論文,研究者關注被標作與摘要高度相關的論證內容。他們用模型拆事實和輔助核查,所以這個辦法本身也可能拆錯。它衡量的是原文中選定的信息保留下來多少,並不替讀者查清原文說得對不對,更沒測過一次中文圖書館活動。這裡借用的是核對方向,不是給手冊套一個論文分數。

最有意思的對照:讓誰來出題?

假如老師先讀三行摘要,再問孩子“幾點開始、帶什麼”,孩子很可能覺得卡片夠用了。換一個讀過手冊的人來出題:“雨已經下起來了,應當去哪兒?”卡片一個字也沒改,用起來卻很不一樣。差別在哪裡?前面的題只能從已經留下的信息裡取材;後一種出題方式才給漏掉的內容一個露面的機會。

Pu、Gao 和 Wan 的讀者實驗真的做過兩套題。他們抽了一百組英文新聞和對應的人工參考摘要。一套題依據人工摘要寫,另一套依據新聞原文寫,每篇每套四問。二十名英語熟練的大學生分兩組做不同來源的題;同一個人不會先讀某篇原文再看它的摘要,靠剛才的記憶補答案。讀者面前可能是原文、人工參考摘要,也可能是系統生成的摘要。他們要交的是自己的答案,研究者還記下完成任務花了多久。

先只看論文表一里的人工參考摘要。題目若據它而出,讀者答案與標準答案完全匹配的比例是百分之五十四;拿原文來答這套題,約為百分之三十二。換到依據原文出的題,方向反過來:讀人工摘要約為百分之二十七,讀原文約為百分之五十一。這裡打分的是人的答案。挑人工摘要這兩行來讀,是因為即使沒有模型寫錯字,換一個出題起點,對“摘要夠不夠”的判斷也會變。兩套題由不同組作答,題目本身也不同,不宜把兩個比例相減,說成同一個孩子換材料後會損失多少分。

表二還給出另一個實際取捨:做原文出的題時,各類摘要合併的平均完成時間約八十三秒,讀原文約二百一十二秒。這是讀材料並完成答題的時間,不是模型生成摘要的速度。完全匹配又是偏嚴格的標準,意思接近但措辭不同也可能拿不到分。論文另外算了詞語重合程度;讀者若只記住哪個模型排第一,就錯過了這個實驗最有用的地方:出題人是否有機會問到摘要之外的事,比先選一個評測分數更要緊。

這裡也有為短摘要辯護的理由。同一研究還有給新聞選類別、判斷兩條報道是否相似的任務。判斷要不要把文章放進同一欄,不一定需要知道每個名字和地點。題目只要求認出主題時,讀者用摘要可以省下時間。不能據此說長文總是累贅,也不能因為手冊沒回答雨天去哪兒,就宣佈這三行簡介毫無用處。課堂裡分發導讀卡的老師,和準備據此答題的學生,用的可以是同一張紙,卻有不同的理由給它打分。

少掉幾個字,結論可能管得太寬

讀論文時,這種缺口比“幾點集合”更難看見。舉個自擬的例子:“這次報名並完成練習的學生,在當天的小測中答對了更多題。”縮成“這種練習幫助學生學得更好”,看似把話說得更利落,卻起碼留下三筆沒交代的賬:沒參加完的人怎樣,隔週再考怎樣,以及成績差別能不能歸到練習頭上。即使把“幫助”改成“可能幫助”,讀者仍不知道原先測的是哪批人和哪一天。語氣變軟並沒有把樣本和時間還回來。

Peters 和 Chin-Yee研究的正是這種措辭變化。他們對照科學原文與模型寫的短文,區分結論是限定在所研究的情形,還是擴展成對一類對象的一般判斷。表四里常見的一種擴展,是原文說明有多少或哪些對象符合,摘要卻直接說這一類對象如何。它不需要憑空造出一個新數字,甚至可能因為刪掉數字而變得更像常識。這裡談的是結論怎麼寫,不能拿來估計有多少讀者會因此做錯決定。

這項研究專門拿同一百篇醫學文章的專業編輯摘要作了參照。大家都在壓縮篇幅,如果一般化僅僅是“寫短就只能這樣”,專業摘要理應也顯出類似傾向。在這組材料裡,專業摘要相對原文的一般化差異沒有達到統計顯著;測試的模型全文摘要合併後,相對專業摘要,一般化結論的優勢比為四點八五(表一、圖二)。這個數比較的是出現與不出現這類結論的比值,不能譯成“寫錯的概率是人的近五倍”。編輯與模型也沒有被隨機分配到完全相同的工作流程。這裡有理由追查壓縮時怎樣取捨,卻沒有理由斷言某個品牌今天必然刪掉某一類詞。

更不能把三篇論文拼成一條未經檢驗的故事:模型漏掉條件,所以家長一定走錯路。第一篇看選定事實有沒有進摘要,第二篇看特定讀者能否用一種材料作答,第三篇看概括的範圍有沒有變。它們各自只照亮了一段。沒有哪一篇把家長隨機分到手冊組和卡片組,等到下雨時去館門口數人。真要給活動做摘要,還應允許一種結果:手冊寫得含糊,兩種讀法都說得通。那時要找的是主辦方的補充說明,反覆要求模型“更準確些”並不會產生新證據。

留一道摘要出不了的題

下面是可以立即試的讀法,不是本篇做過的實驗。挑一份自己確實要用的通知,先說清楚你下一步要做什麼。若是挑活動,就問“主題是不是我感興趣的”;若是準備出門,就問“哪一種情況會讓我換地點”。先只看摘要,把答案寫在一張紙上;找不到就留空,不準用常識填。再打開原文,只抄足以決定答案的那一句,看看要不要改紙上的字。一個空格最後填上了“雨天去館內”,比五個沒改動的集合時間更值得你用筆圈出來。

若有兩個人,可以讓一個人只看原文出題,另一個人只看摘要答。出題人要先給自己留一句有出處的答案,不能挑原文也沒講的冷知識為難對方。答題人可以寫“不知道”;之後把兩張紙放在一起,區分“摘要沒寫”“寫了但我沒找到”和“原文也沒交代”。把“不知道”允許成一個正當答案,才能看見有多少把握來自文字,又有多少是自己悄悄補上的。

還可以用同一張紙給摘要做一次小修訂。假設原文另有八行認樹方法,而家長群的卡片只能放三行,你會刪什麼來給雨天的地點騰位置?如果是出門前發,我會刪去對葉片顏色的介紹,保留兩種天氣的集合地點;如果是活動結束後給孩子做觀察筆記,我會保留葉片顏色,把已經用過的集合地點刪掉。即使原文一字不改,這兩個版本都可以忠實。麻煩出在把觀察筆記當成出門指南,遞給別人時卻忘了告訴他,這是用來做什麼的。

讀研究時也可以做同樣大小的修訂。與其在筆記末尾統一加一句“還有侷限”,不如把“當天小測”四個字緊貼在結果旁邊。過兩週,哪怕你只複製了筆記裡的那一句,時間條件也跟得過去。至於沒測過的隔週表現,寧可讓它留作真正的問題,不要讓它在下一次摘錄時變成一個似乎已有答案的結論。

今天若只留一個習慣,就留這一個:轉述摘要前,試著說出一個會讓這句話不成立的情形,然後翻原文看作者怎麼處理它。做不到時,不妨把轉述寫窄一點:“手冊說週六有活動,雨天的地點我還沒查。”孩子現在就知道哪一件事已經定了,也知道出門前該翻哪一頁。

參考資料


作者作品推廣

除了寫技術博客,我也在做一些讓日常更有條理的小工具,歡迎瞭解我獨立開發的兩款 App:

  • 日常收支小記:記下收支,也給每一筆錢安排好去處。記錄日常賬目,安排預算與儲蓄目標。在 App Store 瞭解。
  • 一事微光:從一件小事開始,讓今天多一點微光。按當下的時間和精力選擇行動,記錄完成後的感受與發現。在 App Store 瞭解。

更多技術文章和個人作品,歡迎來我的網站:zffjzz.top。也歡迎把使用感受告訴我,讓這些小工具慢慢變得更好。