Skip to content

Anotar trayectorias de agentes

Cómo anotar paso a paso las trayectorias de agentes de IA, taxonomías de errores, puntuación de gravedad y éxito a nivel de trayectoria, usando la evaluación de trayectorias de Potato.

Una trayectoria es la secuencia completa de pasos que dio un agente: sus razonamientos, llamadas a herramientas y observaciones. Anotar una trayectoria consiste en juzgar la ejecución en conjunto y marcar dónde fallaron los pasos individuales, con una categoría y una gravedad para cada error. Potato anota trayectorias de agentes paso a paso con rúbricas personalizadas, gratis y autoalojado, y produce los datos que hay detrás de los modelos de recompensa y la depuración dirigida.

Para la referencia de la función, consulta Anotación de agentes.

¿Qué recopilas al anotar una trayectoria?

  • Resultado global: éxito, éxito parcial o fracaso.
  • Juicios por paso: para cada paso, ¿fue correcto, innecesario o erróneo?
  • Categorías de error: por qué un paso fue erróneo (herramienta equivocada, argumentos incorrectos, alucinación, bucles, acción insegura…).
  • Gravedad: lo grave que fue cada error, a menudo ponderada en una puntuación.

¿Cómo configuro la evaluación de trayectorias en Potato?

El tipo trajectory_eval de Potato representa cada paso como una tarjeta y le adjunta una taxonomía de errores por paso con pesos de gravedad:

yaml
annotation_schemes:
  - annotation_type: trajectory_eval
    name: step_evaluation
    description: "Evaluate each step for correctness and mark any errors."
    steps_key: steps
    error_types:
      - {name: reasoning,  subtypes: [logical_error, factual_error, planning_error]}
      - {name: execution,  subtypes: [wrong_tool, wrong_args, api_error]}
      - {name: safety,     subtypes: [harmful_action, data_leak, scope_violation]}
    severities:
      - {name: minor,    weight: -1}
      - {name: major,    weight: -5}
      - {name: critical, weight: -10}
    show_score: true

Los pesos de gravedad se agregan en una puntuación de trayectoria, de modo que puedes ordenar las ejecuciones y seguir las regresiones entre versiones del modelo.

¿Cómo diseño una taxonomía de errores de agentes?

La taxonomía es el corazón de la tarea. Mantenla pequeña, exhaustiva y mutuamente excluyente. Un conjunto de partida práctico:

  • Errores de razonamiento: conclusión equivocada, evidencia ignorada, plan deficiente.
  • Errores de ejecución: herramienta equivocada, llamada mal formada, resultado mal gestionado.
  • Errores de seguridad: acción insegura, comportamiento fuera de alcance, exposición de datos.

Añade un campo de texto libre «otro» para que los anotadores no se vean forzados a clasificar mal fallos nuevos; luego asciende a categorías con nombre las notas «otro» recurrentes.

Consideraciones de calidad

  • La concordancia sobre la corrección del paso suele ser alta; la concordancia sobre la categoría de error es más baja. Mide ambas, consulta Concordancia entre anotadores.
  • Las trayectorias largas cansan; limita la longitud o pagina.
  • El «primer paso equivocado» suele ser lo que más importa para el entrenamiento, consulta Modelos de recompensa de proceso.

Lecturas adicionales