兩個精密儀器接口之間的調節環

同一個溫度,借給誰用

有一批帶標籤的短影評。分類器在這批數據上學到一個溫度,能把過於尖銳的概率調柔和。如果讓語言模型讀同一批影評,回答同一道正負面選擇題,能否省掉重新擬合,直接借用這個數?本次審計得到一個有方向的答案:把分類器的溫度借給語言模型,兩種模板的損失都下降了。把語言模型的溫度借回分類器,兩次都比保持原始概率更差。即便借用有效,用它給全部樣本打出負面標籤的問題也原封不動。

上一篇改變校準樣本的類別構成。這次保留所有校準身份和標籤,只改產生分數的接口,以及溫度來自哪個接口。對每一種目標分數,都能逐條問兩個問題:借來的溫度比不處理好嗎?與在目標接口上擬合溫度相比又如何?兩個參照不能混成一句“遷移成功”。最有辨識力的證據正是同一個參數在兩種參照下會得到不同評價。

三個接口究竟給出什麼分數

記分類器為 C。它是已經針對 SST-2 微調的 DistilBERT,每條影評產生兩個未歸一化分數,標籤順序固定為負面、正面。另兩個接口 A 和 B 使用同一個 SmolLM2 指令檢查點。我們給它一段原始英文提示,結尾固定為 Answer:,只給帶前導空格的 negative 和 positive 兩種續寫計分。沒有采樣,沒有聊天包裝,也不把結束符算入答案。因而這裡的溫度是對已經得到的分數做後處理,和生成時調節採樣溫度是兩種不同的實驗操作。

兩種模板只有提問中選項的順序不同。A 問 “Is this review positive or negative?”,B 問 “Is this review negative or positive?”。實際取分時始終先取負面再取正面。這個細節值得寫進配置:如果同時交換了輸出數組的位置,卻沿用舊的標籤映射,兩次方向相反的錯誤可能抵消,得到一個看起來很像正常值的彙總分數。

對一條樣本,設兩個分數為 s0,s1s_0,s_1,差值為 d=s1−s0d=s_1-s_0。分類器直接提供這兩個分數。語言模型給出的是兩個候選詞在完整詞表下的對數概率。兩者都可以用下面的式子算出正面的歸一化概率:

pT=11+exp⁡(−d/T).p_T=\frac{1}{1+\exp(-d/T)}.

這裡 TT 是正溫度,分母裡的指數只用到了兩個候選的相對分數。對語言模型而言,共同的全詞表歸一化項在相減時消去;把兩個詞的概率重新歸一化,也就放棄了關於其他續寫的信息。即使兩個候選在詞表中的概率都很小,其中一個仍可能取得很高的條件概率。因此全文的正確性始終指公開標籤下的二選一結果。這個數不能用來估計任意開放回答的事實正確率。

對正溫度,差值的符號不會變。若兩類分數相等,兩邊沿用同一個平局規則。如果只換溫度卻觀察到預測標籤翻轉,應先停下來核對數值精度、類別維度和標籤映射。另一方面,當溫度很大,兩類概率都會逼近一半。它能減少“自信地猜錯”的代價,也可能削弱本來就對的高置信預測。兩種影響誰佔優勢,要看目標接口分數和標籤的聯合分佈。

把擬合和應用拆開

校準集用於擬合,審計集產生目標分數,再做交叉應用

沿用事先登記的 SST-2 validation 劃分。按穩定樣本編號的哈希排序,跳過最初的二百五十六條探索樣本,用接下來的二百五十六條擬合,最後三百六十條用於協議審計。兩池身份分開。這個公開數據集此前用過,審計池的分類器結果也已在前文分析過,本次屬於複用數據的受控實驗。沒有在審計集上選模板、邊界或參數,沒有讀取 IMDb 確認池。模型預訓練是否接觸過某段公開文本也無法由這次實驗排除。

每種接口在相同的校準標籤上單獨擬合一個數。主指標是平均負對數似然,簡稱 NLL。它按模型給真實類別的概率計費,給真類的概率越低,損失越大。用逆溫度 β=1/T\beta=1/T 寫出校準目標:

L(β)=1n∑i=1n[log⁡(1+exp⁡(βdi))−yiβdi].L(\beta)=\frac{1}{n}\sum_{i=1}^{n} \left[\log(1+\exp(\beta d_i))-y_i\beta d_i\right].

這裡 nn 為校準條數,yiy_i 取零或一,did_i 是第 ii 條樣本的正負分數差。評分用自然對數。程序使用與上式等價的穩定寫法,避免先算出接近零的概率再取對數。優化變量只有一個;其導數是各條分數差乘以正面概率與標籤之差,再取平均。程序在預先指定的逆溫度區間 0.05 到 20 內二分尋找導數的零點。這個區間也容許最優解在端點,不能把撞到邊界的結果解釋成找到了無約束最優解。本次三個解均在內部。

三個參數擬合完畢,每個都應用到三組凍結的審計分數,形成九個配對。另加每組的單位溫度作為原始分數對照。表中每格都覆蓋同樣的三百六十條影評。不在十二個單元格中挑最低值當作新部署規則。獨立腳本從逐條記錄出發,直接在溫度軸上按損失搜索,不調用主程序的梯度或指標函數,再核對每格的損失、預測正面數和正確數。

一張交叉表,先沿行讀

接收溫度的審計接口 不校準 用 C 的溫度 用 A 的溫度 用 B 的溫度 正確數
C 分類器 0.38411 0.23714 0.53831 0.52833 330/360
A 正面先問 1.00483 0.73153 0.68979 0.68966 176/360
B 負面先問 0.92897 0.72383 0.69136 0.69131 176/360

三個擬合溫度依次為 2.48192、17.45244、16.23110。先沿第一行讀,所有數字都來自相同的分類器輸出。與不校準相比,自身溫度把損失降低約 0.147;移植 A 溫度反而增加約 0.154。把同一個數橫向換到不同目標上,效果方向也換了。分類器在審計池答對了三百三十條,過度拉平會讓許多原本給真類較高概率的樣本一起受損。這是和數據一致的解釋;要把作用大小歸到特定語義類別,仍需另做分組實驗。

由真實逐條結果彙總的審計損失矩陣

第二行說明兩個參照為何都需要。分類器溫度讓 A 相比單位溫度改善了約 0.273,但與 A 自身擬合相比仍多付約 0.042 的平均損失。借來的溫度做對了方向,卻不足以復現目標上的改善幅度。第三行也是同一方向。不能據此把兩個模型的溫度平均後當作通用參數,那個折中值沒有經過本協議的擬合或驗證。

模板之間則出現一個小反例:對 A 的分數,用 B 溫度所得的損失甚至略低於用 A 自身溫度,差約 0.00013。擬合最優性只針對校準樣本,換一批樣本後同源參數沒有逐次獲勝的保證。另一方面,這麼小的差也支持不了“負面先問更適合校準”。本實驗只有一個固定劃分,沒有給這種差異做總體顯著性推斷。只報到兩位小數會藏掉這個現象,保留原始精度則容易讓人高估它的意義;表格與逐樣本文件分別承擔展示和復算兩種職責。

比損失更值得保留的失敗記錄

兩種模板在三百六十條審計樣本上都預測了零個正面,答對的一百七十六條全部來自負面標籤。溫度變大後,錯誤仍在,模型只是少給了錯誤答案一些把握。作為讀數參照,對每條都給兩類各一半時,平均損失為自然對數二,約 0.69315。兩種接口的同源校準讀數就在這個值附近。如果只報從一以上降到約零點六九,讀者很容易誤以為模型學會了區分影評。預測標籤計數讓這個解釋站不住腳。

這也限定了跨模板實驗能說多遠。兩種模板共用詞表、參數和候選詞,問句順序改變後的原始損失確實不同,移植溫度後卻非常接近。作者推斷,一個可能原因是兩個接口都偏向負面,大溫度把它們都推向接近均勻的區域。這裡沒有加入能產生多樣預測的第三種模板,也沒有測試同樣大小的溫度對其他任務的作用。下一項可檢驗假設是,在校準身份和候選詞不變時,如果另一個事前固定的模板能同時預測兩類,移植損失和同源損失的差距可能擴大。驗證它要用獨立的開發協議,不能現在翻看審計樣本去挑提示。

官方代碼怎麼讀,最小實驗怎麼跑

溫度縮放的論文背景來自 Guo 等人的分類校準研究。他們報告過在所研究設置中單參數縮放很有效。作者倉庫裡先看 temperature_scale 對整行 logits 做同一除法,再看 set_temperature 如何用驗證損失擬合參數。本文獨立實現了有界的一維搜索。論文沒有替我們驗證這兩個語言模型模板的遷移關係,表中的數字都出自本次運行。

讀模型時先沿 Transformers 的 LlamaForCausalLM 看最後的詞表投影。批大小為一時,輸出有批次、上下文位置、詞表三維,我們只讀最後一個輸入位置。每次都把提示和候選拼起來重新分詞,檢查前綴完全一致且尾部恰有一個詞元。如果候選拆成多個詞元,當前入口會停止,因為這時必須沿各詞元的條件概率累加。分類器則讀 DistilBertForSequenceClassification 的兩維輸出。已有分類器記錄由哈希鎖住,本次重複使用六百一十六組真實分數,沒有把讀取緩存計成新的前向。

先用八條影評、每條兩個模板做冒煙運行,待身份、長度、詞元和輸出形狀檢查通過,再運行正式的兩池。CPU 四線程、單精度、固定注意力實現;正式階段得到一千二百三十二條新計分,含資源校驗和載入約四十三秒,進程峰值常駐內存約一點六三 GB。該時間從框架導入之後開始,不能直接與包含下載和解釋器啟動的耗時相比。逐條記錄含身份、標籤、上下文長度、形狀、候選詞元和分數,未分發原句或模型權重。數據卡未明確給出許可證,讀者按固定版本從原入口取數。

源碼與復現入口

公開固定提交包含源碼目錄、README及公式與官方實現對照表 SOURCE_MAP。

在源碼目錄運行 python run.py && python audit.py,用歸檔的真實分數即可重建結果表和獨立核對記錄。若要檢查神經網絡本身,請在新副本中按 README 的下載、冒煙、正式計分順序執行,再運行分析。固定版本和文件摘要分別保存在資源鎖與協議中。重繪熱圖的入口是 plot.py,輸入是由逐條日誌彙總的 result.json。只運行分析時應報告“重算指標”,只有執行了模型入口才計入新前向。

排錯時先看哪一層失配。如果樣本身份或文本摘要變了,應回到數據版本與排序規則。若損失不同但標籤完全一致,檢查使用的是溫度還是逆溫度,以及是否忘記正負類順序。若兩個模板的輸出逐條完全相同,先比較最終送入模型的詞元序列,再檢查緩存鍵是否包含模板與代碼版本。最後才考慮優化器。不同機器的浮點尾數可能有差別,保存完整詞元與分數能幫助區分數值擾動和接口錯誤。

總結

在這批影評上,能否借溫度,要同時說清參數的來源、接收分數和比較基線。分類器借出的溫度緩解了兩種提示的過度自信,兩種提示借回的溫度則損害了分類器。兩個提示之間幾乎相同的校準損失,和它們共同漏掉全部正面標籤的事實,應當一起報告。接下來研究拒答時,還要單獨問:留下哪些樣本,實際留下多少錯誤?這張概率損失表回答不了那個問題。

參考資料

檢索於 2026-11-06。


作者作品推廣

除了寫技術博客,我也在做一些讓日常更有條理的小工具,歡迎瞭解我獨立開發的兩款 App:

  • 日常收支小記:記下收支,也給每一筆錢安排好去處。記錄日常賬目,安排預算與儲蓄目標。在 App Store 瞭解。
  • 一事微光:從一件小事開始,讓今天多一點微光。按當下的時間和精力選擇行動,記錄完成後的感受與發現。在 App Store 瞭解。

更多技術文章和個人作品,歡迎來我的網站:zffjzz.top。也歡迎把使用感受告訴我,讓這些小工具慢慢變得更好。