Skip to content
Potato annotation tool

Mit Potato alles annotieren: Text, Medien und Agenten

Potato ist eine quelloffene Plattform zum Annotieren von Text, Audio, Bildern und qualitativen Daten, von Klassifikation und Span-Labeling bis zur codebuchgestützten Kodierung. Sie hat außerdem die breiteste Unterstützung für Agenten-Annotation von allen Werkzeugen, die wir gefunden haben: Traces aus jedem Framework einlesen, einen Multiagenten-Lauf auf seinem Interaktionsgraphen beschriften und alles in YAML einrichten.

Vorgestellt bei·ACL 2026·HCOMP 2024 (Beste Demo)·EMNLP 2022

In 4 Schritten loslegen

Von der Installation zur Annotation in wenigen Minuten.

1.
pip install potato-annotation
# Potato installieren
2.
# Create your config.yaml
# Aufgabe konfigurieren
3.
potato start config.yaml
# Server starten
4.
# Open localhost:8000
# Mit dem Annotieren beginnen

Was in Potato steckt

Für Forschende und Annotationsteams gebaut.

Agentenbewertung

Annotieren Sie Multi-Agenten-Teams auf einem anklickbaren Interaktionsgraphen, evaluieren Sie Computer-Use-, Sprach- und Video-Agenten, kalibrieren Sie LLM-Judges gegen menschliche Labels, bearbeiten Sie Trajektorien zu SFT- und DPO-Trainingsdaten und ranken Sie Modelle in einer Arena, alles aus YAML.

20+ Annotationstypen

Radio, Mehrfachauswahl, Likert, Schieberegler, Text, Span, Best-Worst-Scaling, paarweiser Vergleich, Zahl, Multirate, Video, Bild, Audio, Bounding Box, Polygon, Event und Taxonomie, dazu qualitatives Codieren (QDA-Modus) mit lebendem Codebuch, In-vivo-Codes, Memos und Cases.

KI-gestützt

LLM-Integration mit OpenAI, Claude und Gemini für Hinweise, Schlüsselwort-Hervorhebung, Label-Vorschläge, MACE-Kompetenzschätzung, Optionshervorhebung und Diversitätsreihenfolge.

Multimedia-Unterstützung

Annotieren Sie Audio mit Wellenformen, Bilder mit Begrenzungsrahmen und Polygonen sowie Video mit Wiedergabesteuerung.

Aktives Lernen

Fünf Query-Strategien (unsicherheitsbasiertes Sampling, diversitätsbasierte Auswahl, BADGE, BALD und Hybrid-Ensemble), dazu ein LLM-Cold-Start, der die ersten Instanzen auswählt, bevor es überhaupt Labels gibt.

Keine Programmierung erforderlich

Konfigurieren Sie alles in YAML. Eine Annotationsoberfläche zu bauen erfordert kein Programmieren.

Leitfäden zur Annotationspraxis

Erklärtexte, die eine Frage zur Annotation beantworten, ohne ein Werkzeug vorauszusetzen, und Potato anschließend als durchgerechnetes Beispiel verwenden.

Alle Leitfäden ansehen

450+

Annotationsdesigns durchsuchen

Sofort einsatzbereite Konfigurationen aus der Community.

Bereit zum Annotieren?

Potato ist kostenlos und quelloffen. Mit pip installieren und die erste Aufgabe lokal starten.