多項評分(矩陣評分)
以矩陣格式在同一量表上對多個項目進行評分。
多項評分類型以矩陣格式顯示多個項目,每個項目在同一量表上進行評分。非常適合評估單個項目的多個維度。
基本配置
yaml
annotation_schemes:
- name: "aspect_ratings"配置選項
| 欄位 | 類型 | 必填 | 描述 |
|---|---|---|---|
name | string | 是 | 標註的唯一識別符號 |
description | string | 是 | 顯示給標註者的說明 |
annotation_type | string | 是 | 必須為 "multirate" |
labels | array | 是 | 要評分的項目(行) |
options | array | 是 | 評分量表選項(列) |
size | number | 否 | options 的替代方式:量表點數 |
min_label | string | 否 | 最低評分的標籤 |
max_label | string | 否 | 最高評分的標籤 |
randomize | boolean | 否 | 隨機化項目順序 |
compact | boolean | 否 | 使用緊湊佈局 |
示例
回覆品質評估
yaml
- name: "quality_assessment"翻譯品質
yaml
- name: "translation_quality"產品評價維度
yaml
- name: "product_dimensions"輸出格式
多項評分標註輸出一個將每個項目對映到其評分的字典:
json
{
"id": "item_1",
"annotations": {
"aspect_ratings": {
"Accuracy": "4",
"Clarity": "5",
"Helpfulness": "3"
}
}
}使用場景
- LLM 評估:從多個品質維度對回覆進行評分
- 翻譯評估:評估流暢度、充分性和術語
- 產品評價:捕獲不同產品方面的評分
- 調查研究:李克特式矩陣問題
- 同行評審:從多個標準對論文進行評分
最佳實踐
- 限制項目數量 - 3-7 個項目效果最好;更多會導致疲勞
- 使用一致的量表 - 所有項目應使用相同的評分量表
- 按邏輯排序 - 將相關維度放在一起
- 提供清晰的定義 - 使用工具提示解釋每個維度
- 考慮隨機化 - 防止回答中的順序偏差