選擇標註方案
如何把你的研究問題對映到合適的 Potato 標註類型:radio、multiselect、span、likert、slider、pairwise、best-worst、multirate、rubric 等等。
標註方案決定了你向標註者提出的問題的形態。選擇時先問清楚你需要哪種答案:一個類別、多個類別、條目中的某個區域、量表上的某個位置,還是條目之間的比較。 Potato 支援 30 多種標註類型,本指南幫你縮小範圍。
完整的選項及其設定請參見標註方案參考。
一份決策指南
| 如果你需要… | 使用此類型 | 示例 |
|---|---|---|
| 恰好一個類別 | radio | 情感:正面 / 負面 / 中性 |
| 同時選多個類別 | multiselect | 文章中出現的主題 |
| 從長列表中選一個類別 | select(下拉框) | 國家、語言、ICD 編碼 |
| 文本/音訊內部的某個區域 | span | 命名實體、錯誤跨度 |
| 量表上的某個位置 | likert | 贊同度、流暢度、品質 |
| 一個連續數值 | slider | 置信度 0–100 |
| 兩個條目中較好的一個 | pairwise | 哪個模型回覆更好? |
| 一組中最好和最差的項 | best_worst_scaling | 按流暢度對譯文排序 |
| 對許多條目用同一量表 | multirate | 給每篇檢索到的文件評分 |
| 多個加權標準 | rubric_eval | MT-Bench 風格的 LLM 打分 |
| 一段書面回答 | text | 理由說明、修正 |
實例:單標籤還是多標籤
如果類別之間互斥,使用 radio,讓標註者必須選一個:
yaml
annotation_schemes:
- annotation_type: radio
name: stance
description: "What stance does the post take?"
labels: [Supports, Opposes, Neutral]
sequential_key_binding: true如果一個條目可以同時擁有多個標籤,使用 multiselect 並設定數量限制:
yaml
annotation_schemes:
- annotation_type: multiselect
name: topics
description: "Select every topic the article covers."
labels: [Politics, Technology, Health, Sports, Business]sequential_key_binding: true 讓標註者按數字鍵而不是點選滑鼠,對大批次任務能顯著提速。
組合多個方案以應對更復雜的任務
你可以在同一螢幕上疊加多個方案,例如一個類別加上一段自由文本理由。再配合條件邏輯,讓理由只在需要時才出現:
yaml
annotation_schemes:
- annotation_type: radio
name: quality
description: "Is this answer acceptable?"
labels: [Good, Bad]
- annotation_type: text
name: reason
description: "If Bad, briefly explain why."
label_requirement:
required: false