封面圖

架構圖

適合讀者

  • 需要穩定抽取業務字段的開發者
  • 做自動化數據處理的工程師

這篇文章解決什麼問題?

只靠一次生成無法保證字段完整,人工修復成本高。

核心概念解釋

  • schema 校驗
  • 失敗原因歸因
  • 修復 Prompt
  • 最大重試
  • 審核兜底

實戰步驟

  1. 解析模型輸出
  2. 捕獲 JSONDecodeError
  3. 彙總缺失字段
  4. 發起修復請求或本地 mock
  5. 保存失敗樣本

Python 代碼示例

本文配套 demo 會生成在:

cd examples/llm-guides/010_json_validation_retry
python demo.py

示例代碼遵循兩個原則:

  • 從 OPENAI_API_KEY 讀取密鑰,不在代碼裡寫死。
  • 沒有 API Key 時自動進入 mock 模式,方便先理解流程。

核心調用方式可以簡化成下面這樣:

import os

api_key = os.getenv("OPENAI_API_KEY")
if not api_key:
    print("未配置 OPENAI_API_KEY,进入 mock 模式。")
else:
    # 真实项目中在这里初始化 SDK 客户端并发起请求。
    print("已读取 OPENAI_API_KEY,可以调用模型。")

常見坑

  • 只跑通 Demo 就直接發佈,缺少錯誤處理、日誌和人工審核。
  • 把 API Key、真實路徑、賬號或業務數據寫進文章和代碼。
  • 沒有區分 mock 示例和真實線上環境,導致讀者複製後無法復現。
  • 引用 API 或框架能力時沒有核對官方文檔,版本變化後容易誤導讀者。

總結

  • 這篇文章圍繞「大模型使用指南 10:JSON 輸出失敗後如何自動修復?」解決一個具體工程問題:只靠一次生成無法保證字段完整,人工修復成本高。
  • 實踐時優先保證可復現、可回滾、可人工審核,不要只追求一次性生成效果。
  • 涉及模型能力、API 參數和第三方框架時,發佈前需要重新核對官方文檔。

CSDN 標籤

JSON、Python、大模型、數據質量、自動化

公眾號摘要

文章給出結構化輸出失敗後的自動修復方案,適合做數據抽取和業務自動化。

知乎標題變體

  • 大模型輸出 JSON 失敗了怎麼辦?
  • 如何設計結構化輸出的重試閉環?
  • LLM 數據抽取如何減少人工修復?

參考資料與延伸閱讀

  • OpenAI 官方文檔:以你實際使用的模型、SDK 和賬號權限為準。
  • Python 官方文檔:環境變量、虛擬環境和異常處理部分。
  • 相關框架官方文檔:LangChain、LlamaIndex、Haystack、向量數據庫等按文章主題選擇。