Skip to content
Guides2 min read

用一份盲态人工样本认证 LLM 标签

只在一份盲态随机人工样本表明错误率低于目标时才保留 LLM 的标签，并用经过模型校正的区间报告流行率。

Potato Team

要决定保留哪些 LLM 标签而又不逐条检查，可以让人标注一份盲态随机样本，在这份样本的一半上选定置信度阈值，再在另一半上检验高于阈值的标签中错误率是否低于你的目标。对于流行率数字，则用模型在同一份样本上的错误来校正它的估计，这样得到的区间无论模型多好都有效。

检查 LLM 标签的一种常见做法是读几十条输出，看着没问题就发布数据集，再附上一句“数据由 LLM 标注，我们做了抽查”。这句话没有说明标签出错的频率，审稿人也无从判断这次检查能否发现 15% 的错误率。一次能支撑某个数字的检查要回答三个问题：保留哪些机器标签，用机器标签算出的比率偏差有多大，以及模型能否代替人。

抽查和审核预标注中的偏差

有两种习惯会让机器标签看起来比实际更好。第一种是专门检查模型最没把握的条目。检查这些条目能很快找到错误，但被检查的条目不是数据集的样本，所以在它们身上得到的错误率对其余条目说明不了任何问题。第二种是在模型答案显示在屏幕上时，衡量人给出的标签与它的一致性。建议会把答案往它那边拉，所以在审核过的预标注上测得的一致性，要高于盲态下测得的一致性。LLM 预标注更详细地讨论了这种自动化偏差。

因此，一次能支撑某个数字的检查需要具备三个性质。被检查的条目是随机抽取的，且入选概率已知。标注它们的人看不到模型的答案。用来选定规则的标签和用来检验规则的标签不是同一批。

选择性预测与选择性风险

选择性预测是指模型只标注置信度超过阈值的条目，其余条目弃权，交给人来标注。要控制的量是选择性风险，即模型保留的标签中的错误率。例如，一个以 4% 的错误率保留 70% 条目的阈值，可能比一个以 12% 的错误率标注所有条目的模型更有用。

在同一批标签上选定阈值又检验它，会高估阈值的效果，所以人工样本要一分为二。一半是 dev 划分，用来选定阈值。另一半是 cert 划分，用单侧二项检验来检验“被接受标签中的错误率高于目标”这一命题。如果这一命题被拒绝，该阈值就在所声明的置信度下得到认证。Learn-then-Test（Angelopoulos et al., 2025）把选定阈值当作一个多重检验问题来处理。它的一种程序按固定顺序检验候选阈值，遇到第一个不通过的就停下，这样它可以尝试多个阈值而不丢失保证。

这些检验所需的样本比大多数抽查都大。假设目标是至多 10% 出错、置信度为 90%，而且这是对单个模型、不按类别划分的第一次检验，Potato 会以约 0.06 的水平来运行它（下一节解释原因）。如果 cert 划分中有 100 条被接受的标签，只有至多 5 条出错时检验才会通过。5% 的目标要求 100 条中至多 1 条出错，或 200 条中至多 4 条出错。一个真实错误率为 7% 的模型，在有 100 条被接受的 cert 标签时，大约有 29% 的概率通过这第一次检验，有 300 条时约为 56%。

重复检验与错误预算

第一次检验之后，人们还会继续标注，而一再重跑检验直到通过，会把 10% 的错误证书概率变成大得多的数字。一种解决办法是给每次检验分配一份逐渐缩小的错误预算。Potato 给第 k 次检验分配允许错误的 6 / (pi^2 k^2)，所以第一次检验得到 61%，第二次得到 15%，在所有可能的检验上，这些份额加起来正好是全部预算。尝试新的提示词或新的模型都算作一次新检验，因为它又多了一次靠运气通过的机会。

用预测驱动推断估计流行率

很多研究需要的是一个比率，而不是一个数据集，例如有毒帖子所占的比例，或智能体运行成功的比例。只要模型的错误偏向一边，统计机器标签得到的比率就是有偏的。只统计人工样本，得到的比率无偏，但区间很宽。

预测驱动推断（prediction-powered inference，Angelopoulos et al., 2023）把两者结合起来。它先用每个条目上的机器标签算出比率，再用模型在人工标注样本上的平均错误来校正它。无论模型质量如何，这个区间都有效。PPI++ 会调整机器标签所占的权重，所以好模型能让区间比只用人工标签时更窄，差模型也不会让它更宽。当人工样本是以不等概率抽取时，Horvitz-Thompson 差分估计量起到同样的作用。

在 Potato 随附的智能体轨迹示例中，一个 LLM 评审给 288 条为该示例编写的合成智能体轨迹打分，每条都有参考结果，评审判定 76% 成功。用同一个评审加上一份人工样本得到的预测驱动区间是 0.66 [0.57, 0.76]，而数据中的参考比率是 0.60。评审在 80% 的单条轨迹上判断正确，却仍把比率高估了 16 个百分点，因为它的错误偏向“成功”。

替代标注者检验

当人与人之间存在分歧时，固定的准确率目标可能问错了问题。如果两位认真的标注者在 85% 的条目上一致，那么任何标注者都无法被证明有 95% 是“对的”，因为参考本身也有噪声。替代标注者检验（Calderon et al., 2025）转而提出一个相对的问题。它轮流留出每一个人，检验模型与其余人一致的频率是否至少与被留出的那个人相当，允许一定的容差。它需要由多人标注的条目，Potato 的实现会等到至少有三位标注者、每人标注 30 个条目后才运行。LLM 评审一致性介绍了这种比较基于 kappa 的版本，以及如何检查评审的校准。

Potato 标注引擎中的契约

从 2.11 版起，Potato 的标注引擎以契约的形式运行这些检验。它抽取盲态随机样本，在隐藏所有机器答案的情况下把样本提供给标注者，把样本划分为 dev 和 cert，并在标签陆续到来时进行认证。下面这份配置在至多 10% 出错、置信度为 90% 的条件下保留 LLM 的情感标签，并以 90% 的区间报告每个标签的流行率：

yaml
assignment_strategy: engine
 
labeling_engine:
  enabled: true
  sources:
    - id: llm
      kind: llm
      endpoint_type: vllm
      model: google/gemma-4-12B-it-qat-w4a16-ct
      base_url: http://localhost:8001/v1
      confidence: {method: logprob}
  contracts:
    - id: accuracy
      kind: selective_risk
      schema: sentiment
      error: 0.1
      confidence: 0.9
    - id: prevalence
      kind: ppi
      schema: sentiment
      confidence: 0.9
  budgets:
    human_labels: 400

confidence 为 0.9 是 Potato 对每种契约的默认值。这个来源根据 token 的对数概率读出置信度，因为阈值需要一个能把正确答案和错误答案分开的置信度，而模型用文字说出的置信度是 Potato 提供的各种方法中最不可靠的。Potato 的文本示例让 481 条评论先经过 Laya，再以这个 LLM 作为最后一层。在那次运行中，10% 的契约用 165 条人工标签得到满足，引擎接受了 316 条机器标签，全部来自这个 LLM，因为 Laya 的阈值始终没有定下来。对照参考标签，这些标签实测的错误率为 7.6%。potato label certificate config.yaml 会打印检验了什么、用了多少条标签，以及用的是哪个模型和提示词版本。

盲态样本认证的局限

所有这些保证说的都是与标注样本的那些人之间的一致。如果这些人粗心或训练不足，已满足的契约认证的就是与粗心之人的一致，所以在信任一份证书之前，请先用重叠标注和质量控制检查标注者。

一个从不变化的置信度，让阈值无从区分。智能体轨迹示例中的评审给每条轨迹的置信度都是 1.0，所以没有任何阈值能通过，Potato 会把这样的契约标为 infeasible，而不是接受全部标签。在同一份数据上，流行率区间仍然有效，因为它不依赖置信度。

在主观任务上，人们出于本应留在数据中的原因而产生分歧，每个条目未必存在唯一正确的答案。这时应把模型的标签分布与人们的意见分布作比较，Potato 的 distributional 契约会对照一个对半拆分的噪声上限来报告这一点。第一轮之后运行 potato label status config.yaml，就能看到每份契约还需要多少条人工标签才可能通过。

延伸阅读

参考文献

  1. Angelopoulos, A. N., Bates, S., Candès, E. J., et al. (2025). Learn then test: Calibrating predictive algorithms to achieve risk control. The Annals of Applied Statistics. https://doi.org/10.1214/24-AOAS1998
  2. Angelopoulos, A. N., Bates, S., Fannjiang, C., et al. (2023). Prediction-powered inference. Science, 382(6671). https://doi.org/10.1126/science.adi6000
  3. Angelopoulos, A. N., Duchi, J. C., and Zrnic, T. (2023). PPI++: Efficient prediction-powered inference. arXiv. https://arxiv.org/abs/2311.01453
  4. Calderon, N., Reichart, R., and Dror, R. (2025). The alternative annotator test for LLM-as-a-judge: How to statistically justify replacing human annotators with LLMs. Proceedings of ACL 2025. https://aclanthology.org/2025.acl-long.782/