Pre-annotazione con LLM e modelli di visione
Come velocizzare l'annotazione con etichette proposte da un LLM e verificate da una persona: in-context learning, evidenziazione delle opzioni e pre-annotazione visiva con il supporto AI di Potato.
Nella pre-annotazione è un modello a proporre le etichette, che poi una persona verifica o corregge. Controllare un buon suggerimento è molto più rapido che etichettare da zero, quindi la pre-annotazione può ridurre parecchio i tempi, a patto di tenere una persona nel ciclo. È human-in-the-loop applicato al machine learning.
Potato ha un supporto AI integrato per OpenAI, Claude, Gemini, Ollama e altri.
Come funziona la pre-annotazione
- Un modello (un LLM, o un modello di visione per le immagini) predice un'etichetta per ogni elemento.
- La predizione arriva all'annotatore come suggerimento già compilato o come opzione evidenziata.
- L'annotatore conferma o corregge.
- I tuoi dati sono l'etichetta verificata, non l'output grezzo del modello.
Come attivarla
ai_support:
enabled: true
endpoint_type: openai # or anthropic, gemini, ollama, ...
ai_config:
model: gpt-4
api_key: ${OPENAI_API_KEY}
temperature: 0.3Potato ne offre alcune varianti:
- Etichettatura con in-context learning: il modello etichetta gli elementi partendo da pochi esempi nel prompt; la persona verifica.
- Evidenziazione delle Opzioni: il modello preseleziona le etichette che ritiene più probabili, così l'annotatore conferma invece di cercare.
- Supporto AI Visivo: modelli di visione (GPT-4V, Claude, Gemini o un detector come YOLO) propongono etichette e box sulle immagini.
Il rischio: il bias di automazione
Il pericolo della pre-annotazione è il bias di automazione: gli annotatori approvano a scatola chiusa i suggerimenti del modello e ne importano gli errori nei dati «gold». Come difendersi:
- Tieni attivi i gold standard per accorgerti di chi accetta tutto senza guardare.
- Non pre-compilare gli elementi che usi per misurare l'accordo; misuralo su elementi senza suggerimento.
- Sui casi difficili, usa i suggerimenti a bassa confidenza come indizi, non come valori predefiniti.
Pre-annotazione o active learning?
La pre-annotazione rende più rapida ogni etichetta. L'active learning rende ogni etichetta più utile, scegliendo quali elementi etichettare per primi. Insieme funzionano bene.
Approfondimenti
- Annotatori LLM contro annotatori umani, su quando conviene automatizzare un lavoro di etichettatura.
- Codebook per annotatori AI, su come trasformare uno schema di codifica in un modello che un LLM può eseguire.
- Riferimento della funzionalità Supporto AI
- Active learning per l'annotazione
- Modalità Solo, un flusso guidato che unisce persona e LLM