Preanotación con LLM y visión
Cómo acelerar la anotación con preetiquetado mediante LLM y verificación humana, aprendizaje en contexto, resaltado de opciones y preanotación visual, usando el soporte de IA de Potato.
La preanotación usa un modelo para proponer etiquetas que luego una persona verifica o corrige. Revisar una buena sugerencia es mucho más rápido que etiquetar desde cero, así que la preanotación puede reducir bastante el tiempo de anotación, siempre que mantengas a una persona en el circuito. Esto es aprendizaje automático con humano en el circuito.
Potato incluye soporte de IA integrado para OpenAI, Claude, Gemini, Ollama y otros.
Cómo funciona la preanotación
- Un modelo (un LLM, o un modelo de visión para imágenes) predice una etiqueta para cada elemento.
- La predicción se muestra a la persona anotadora como una sugerencia precargada o una opción resaltada.
- La persona la confirma o la corrige.
- La etiqueta verificada, y no la salida bruta del modelo, pasa a ser tu dato.
Cómo activarlo
ai_support:
enabled: true
endpoint_type: openai # or anthropic, gemini, ollama, ...
ai_config:
model: gpt-4
api_key: ${OPENAI_API_KEY}
temperature: 0.3Potato ofrece varias modalidades:
- Etiquetado por aprendizaje en contexto: el modelo etiqueta los elementos a partir de unos pocos ejemplos en el prompt; la persona verifica.
- Resaltado de opciones: el modelo preselecciona las etiquetas que considera más probables, de modo que la persona confirma en lugar de buscar.
- Soporte de IA visual: los modelos de visión (GPT-4V, Claude, Gemini o un detector como YOLO) proponen etiquetas y recuadros para las imágenes.
El riesgo: el sesgo de automatización
El peligro de la preanotación es el sesgo de automatización: las personas anotadoras aceptan sin más las sugerencias del modelo e introducen sus errores en tus datos "de referencia". Protégete así:
- Mantén en marcha los estándares de referencia para detectar la aceptación a ciegas.
- No precargues sugerencias en los elementos que usas para medir la concordancia; mídela en elementos sin sugerencia.
- Usa las sugerencias de menor confianza como pistas, no como valores por defecto, en los casos difíciles.
Preanotación frente a aprendizaje activo
La preanotación hace que cada etiqueta sea más rápida. El aprendizaje activo hace que cada etiqueta sea más valiosa al elegir qué elementos etiquetar a continuación. Se combinan bien.
Lecturas adicionales
- Referencia de la función de soporte de IA
- Aprendizaje activo para la anotación
- Modo en solitario, un flujo de trabajo guiado entre persona y LLM