Skip to content

多項評分(矩陣評分)

以矩陣格式在同一量表上對多個項目進行評分。

多項評分類型以矩陣格式顯示多個項目,每個項目在同一量表上進行評分。非常適合評估單個項目的多個維度。

基本配置

yaml
annotation_schemes:
  - name: "aspect_ratings"

配置選項

欄位類型必填描述
namestring標註的唯一識別符號
descriptionstring顯示給標註者的說明
annotation_typestring必須為 "multirate"
labelsarray要評分的項目(行)
optionsarray評分量表選項(列)
sizenumberoptions 的替代方式:量表點數
min_labelstring最低評分的標籤
max_labelstring最高評分的標籤
randomizeboolean隨機化項目順序
compactboolean使用緊湊佈局

示例

回覆品質評估

yaml
- name: "quality_assessment"

翻譯品質

yaml
- name: "translation_quality"

產品評價維度

yaml
- name: "product_dimensions"

輸出格式

多項評分標註輸出一個將每個項目對映到其評分的字典:

json
{
  "id": "item_1",
  "annotations": {
    "aspect_ratings": {
      "Accuracy": "4",
      "Clarity": "5",
      "Helpfulness": "3"
    }
  }
}

使用場景

  • LLM 評估:從多個品質維度對回覆進行評分
  • 翻譯評估:評估流暢度、充分性和術語
  • 產品評價:捕獲不同產品方面的評分
  • 調查研究:李克特式矩陣問題
  • 同行評審:從多個標準對論文進行評分

最佳實踐

  1. 限制項目數量 - 3-7 個項目效果最好;更多會導致疲勞
  2. 使用一致的量表 - 所有項目應使用相同的評分量表
  3. 按邏輯排序 - 將相關維度放在一起
  4. 提供清晰的定義 - 使用工具提示解釋每個維度
  5. 考慮隨機化 - 防止回答中的順序偏差