用片段標註發現幻覺

當模型編造內容時，對整個回答點一個"踩"幾乎什麼都說明不了。你知道它某處錯了，卻不知道是哪一句、是哪種錯誤，也不知道有多嚴重。片段標註解決了這個問題：標註者高亮出確切的詞語，並標註它們錯在哪裡。

這與 MQM 背後的理念如出一轍——MQM 是機器翻譯評估多年來一直採用的錯誤片段框架。標出片段，歸類錯誤，評定嚴重程度。其結果是你真正能據此行動的資料。

為什麼片段勝過整體標記

針對整個回答的"不忠實"標籤是一個彙總統計量。而一個片段則是一個位置加一個診斷。有了片段，你就能按類型衡量錯誤率，在大量輸出中發現規律，併為你所關心的失敗模式構建有針對性的訓練資料。當判斷的單位是整個回答時，這些都無從談起。

在 Potato 中進行配置

高亮出有問題的文本，標註錯誤類型，並加上一個嚴重程度的判斷，這樣一個微不足道的小失誤和一個危險的捏造就不會被同等看待。

annotation_schemes:
  - annotation_type: span
    name: errors
    description: "Highlight each problematic span and label the error type."
    labels: [unsupported_claim, factual_error, contradiction, fabricated_citation]
  - annotation_type: radio
    name: severity
    description: "How serious is the worst error?"
    labels: [Minor, Major, Critical]

決定你資料品質的那些規則

把源材料交給標註者。離開它，"缺乏依據"就無從定義，所以文件或上下文必須顯示在介面上，而不是藏在某個標籤頁背後。

把你的邊界規則一次性確定下來。片段是覆蓋整個句子，還是隻覆蓋那個虛假的從句？兩者都說得通；選定一種並把它寫下來。

預料到邊緣情況下的主觀性。在臨界案例上，忠實度判斷會出現分歧，所以要在一部分樣本上收集重疊標註，並在信任這些數字之前先檢查一致性。

接下來去哪裡

完整的演練，包括如何定義每一種錯誤類型，可參見檢測幻覺指南。若要了解這個問題在檢索基礎上的版本，請參見 RAG 評估和片段標註指南。有關實現細節，請參見錯誤片段源文件。