Skip to content

توسيم الثقة

أضف تقديرات الثقة مقترنة بتوسيمات أخرى في Potato باستخدام مقاييس ليكرت أو أشرطة التمرير لقياس مدى يقين الموسِّم.

يتيح مخطط توسيم الثقة للموسِّمين تقدير ثقتهم في توسيم آخر أجروه. فهو يقرن مقياس ثقة (ليكرت أو شريط تمرير) بمخطط توسيم مستهدَف، ما يمكّن الباحثين من قياس ما اختاره الموسِّمون ومدى يقينهم من اختيارهم معاً.

توسيم الثقة في Potato يقرن تسمية مشاعر بمقياس ثقة من 5 نقاطتوسيم الثقة في Potato

نظرة عامة

توسيمات الثقة أساسية لدراسة جودة التوسيم، وتحديد العناصر الملتبسة، وترجيح التسميات عند التجميع. وعند تهيئتها، تظهر أداة تقدير الثقة إلى جانب التوسيم المستهدَف، فتطلب من الموسِّمين بيان مدى تأكدهم من قرارهم.

البدء السريع

yaml
annotation_schemes:
  - annotation_type: radio
    name: sentiment
    description: What is the sentiment of this text?
    labels: ["Positive", "Negative", "Neutral"]
 
  - annotation_type: confidence
    name: sentiment_confidence
    description: How confident are you in your sentiment label?
    target_schema: sentiment
    scale_type: likert
    scale_points: 5

خيارات الإعدادات

الحقلالنوعالافتراضيالوصف
annotation_typestringمطلوبيجب أن يكون "confidence"
namestringمطلوبمعرّف فريد لهذا المخطط
descriptionstringمطلوبالتعليمات المعروضة للموسِّمين
target_schemastringاختيارياسم مخطط التوسيم الذي ينطبق عليه تقدير الثقة
scale_typestring"likert"نوع المقياس: "likert" لنقاط منفصلة أو "slider" لمقياس متصل
scale_pointsinteger5عدد النقاط على مقياس ليكرت (يُهمَل مع شريط التمرير)
labelsarrayاختياريتسميات مخصصة لنقاط المقياس (مثل ["Not confident", "Very confident"])
slider_minintegerالقيمة الدنيا لشريط التمرير (تُستخدم فقط حين تكون scale_type بقيمة "slider")
slider_maxintegerالقيمة العليا لشريط التمرير (تُستخدم فقط حين تكون scale_type بقيمة "slider")
label_requirement.requiredbooleanfalseهل يجب إتمام تقدير الثقة قبل الانتقال

أمثلة

مقياس ثقة بليكرت

yaml
annotation_schemes:
  - annotation_type: radio
    name: toxicity
    description: Is this comment toxic?
    labels: ["Toxic", "Not Toxic"]
 
  - annotation_type: confidence
    name: toxicity_confidence
    description: How confident are you in your toxicity judgment?
    target_schema: toxicity
    scale_type: likert
    scale_points: 5
    labels: ["Not at all confident", "Slightly confident", "Moderately confident", "Very confident", "Extremely confident"]

مقياس ثقة بشريط تمرير

yaml
annotation_schemes:
  - annotation_type: radio
    name: stance
    description: What stance does the author take?
    labels: ["Support", "Oppose", "Neutral"]
 
  - annotation_type: confidence
    name: stance_confidence
    description: Rate your confidence from 0 (guessing) to 100 (certain).
    target_schema: stance
    scale_type: slider

تقدير ثقة إلزامي

yaml
annotation_schemes:
  - annotation_type: multiselect
    name: topics
    description: Select all topics that apply.
    labels: ["Politics", "Economy", "Health", "Education"]
 
  - annotation_type: confidence
    name: topics_confidence
    description: How confident are you in your topic selections?
    target_schema: topics
    scale_type: likert
    scale_points: 3
    labels: ["Low", "Medium", "High"]

ثقة مستقلة (بلا هدف)

يمكن استخدام توسيمات الثقة كذلك من دون مخطط مستهدَف لأغراض التقييم الذاتي العام:

yaml
annotation_schemes:
  - annotation_type: confidence
    name: task_familiarity
    description: How familiar are you with this topic area?
    scale_type: likert
    scale_points: 5
    labels: ["Not familiar", "Slightly familiar", "Somewhat familiar", "Very familiar", "Expert"]

صيغة المخرجات

json
{
  "toxicity_confidence": {
    "labels": {
      "confidence": 4
    }
  }
}

في مقاييس ليكرت، تتراوح القيم من 1 إلى scale_points. وفي أشرطة التمرير، تتراوح من slider_min إلى slider_max.

أفضل الممارسات

  1. اقرنه دائماً بمخطط مستهدَف - تقديرات الثقة تكون أنفع حين ترتبط بقرار توسيم بعينه
  2. استخدم ليكرت للبساطة - المقاييس المنفصلة أسرع وأسهل على الموسِّمين
  3. استخدم أشرطة التمرير للقياس الدقيق - حين تحتاج إلى قيم ثقة دقيقة للتحليل اللاحق
  4. اجعل الثقة إلزامية - تقديرات الثقة الاختيارية كثيراً ما تُتخطى، فتقل فائدة البيانات
  5. حلّل أنماط الثقة - العناصر منخفضة الثقة مرشحة جيدة للتحكيم أو لتوسيمات إضافية

قراءة إضافية

للاطلاع على تفاصيل التنفيذ، راجع الوثائق المصدرية.