Skip to content

Annoter les trajectoires d'agents

Comment annoter pas à pas les trajectoires d'agents IA, taxonomies d'erreurs, score de gravité et succès au niveau de la trajectoire, à l'aide de l'évaluation de trajectoires de Potato.

Une trajectoire est la séquence complète des étapes suivies par un agent : ses raisonnements, ses appels d'outils et ses observations. Annoter une trajectoire, c'est juger l'exécution dans son ensemble et repérer où les étapes individuelles ont déraillé, avec une catégorie et une gravité pour chaque erreur. Potato annote les trajectoires d'agents étape par étape avec des grilles personnalisées, gratuit et auto-hébergé, et produit les données qui sous-tendent les modèles de récompense et le débogage ciblé.

Pour la référence de la fonction, voir Annotation d'agents.

Que recueillez-vous en annotant une trajectoire ?

  • Résultat global : succès, succès partiel ou échec.
  • Jugements par étape : pour chaque étape, était-elle correcte, inutile ou erronée ?
  • Catégories d'erreur : pourquoi une étape était erronée (mauvais outil, mauvais arguments, hallucination, bouclage, action dangereuse…).
  • Gravité : à quel point chaque erreur était grave, souvent pondérée dans un score.

Comment configurer l'évaluation de trajectoires dans Potato ?

Le type trajectory_eval de Potato affiche chaque étape sous forme de carte et lui associe une taxonomie d'erreurs par étape avec des poids de gravité :

yaml
annotation_schemes:
  - annotation_type: trajectory_eval
    name: step_evaluation
    description: "Evaluate each step for correctness and mark any errors."
    steps_key: steps
    error_types:
      - {name: reasoning,  subtypes: [logical_error, factual_error, planning_error]}
      - {name: execution,  subtypes: [wrong_tool, wrong_args, api_error]}
      - {name: safety,     subtypes: [harmful_action, data_leak, scope_violation]}
    severities:
      - {name: minor,    weight: -1}
      - {name: major,    weight: -5}
      - {name: critical, weight: -10}
    show_score: true

Les poids de gravité se cumulent en un score de trajectoire, ce qui vous permet de classer les exécutions et de suivre les régressions d'une version de modèle à l'autre.

Comment concevoir une taxonomie d'erreurs d'agents ?

La taxonomie est le cœur de la tâche. Gardez-la réduite, exhaustive et mutuellement exclusive. Un ensemble de départ pratique :

  • Erreurs de raisonnement : conclusion erronée, indices ignorés, mauvais plan.
  • Erreurs d'exécution : mauvais outil, appel mal formé, résultat mal traité.
  • Erreurs de sécurité : action dangereuse, comportement hors périmètre, exposition de données.

Ajoutez un champ texte libre « autre » pour que les annotateurs ne soient pas contraints de mal classer des échecs inédits, puis promouvez en catégories nommées les notes « autre » récurrentes.

Considérations de qualité

  • L'accord sur la justesse de l'étape est généralement élevé ; l'accord sur la catégorie d'erreur l'est moins. Mesurez les deux, voir Accord inter-annotateurs.
  • Les longues trajectoires sont fatigantes ; limitez la longueur ou paginez.
  • La « première étape erronée » est souvent ce qui compte le plus pour l'entraînement, voir Modèles de récompense de processus.

Pour aller plus loin