Videoannotationswerkzeuge im Vergleich: CVAT, Label Studio, ELAN, BORIS und Potato
Vergleich von CVAT, Label Studio, ELAN, BORIS, VIA, V7 und Potato für Objekt-Tracking, zeitliche Segmente und Verhaltenskodierung und dafür, wie jedes Werkzeug die Übereinstimmung zwischen Annotatoren misst.
Videoannotation ist meist eine von zwei Aufgaben. Beim Objekt-Tracking wird eine Form um etwas gezeichnet und über die Frames verfolgt, und CVAT ist dafür das maßgebliche Open-Source-Werkzeug. Zeitliche Annotation markiert, wann etwas geschieht, und ELAN und BORIS sind die Standards in der Linguistik und der Verhaltensforschung. Potato erledigt beides im Browser für Studien mit mehreren Annotatoren. Es rekrutiert und schult diese Annotatoren und berichtet, wie gut sie bei Ereignissen und bei Tracks übereinstimmen.
Das Objekt-Tracking verfolgt ein Objekt durch ein Video, meist indem es auf Keyframes gezeichnet und in den Frames dazwischen interpoliert wird. Ein zeitliches Segment besteht aus Startzeit, Endzeit und einem Label, etwa einer Handlung oder einem Sprecherwechsel. Die Maskenpropagation überträgt eine Segmentierungsmaske mit Hilfe eines Modells von einem Frame auf den nächsten.
Diese Seite behandelt Video. KI-Annotationswerkzeuge im Vergleich behandelt alle Datentypen auf einer Seite.
Welche Videoannotationswerkzeuge lohnen einen Vergleich?
| Werkzeug | Läuft als | Lizenz und Kosten | Geeignet für |
|---|---|---|---|
| Potato | Web-App, selbst gehostet | GPL-3.0, kostenlos | Studien mit mehreren Annotatoren: Tracking, zeitliche Segmente, Fragen pro Segment, Übereinstimmung |
| CVAT | Selbst gehostet oder gehostet | MIT; gehostet 33 $ pro Nutzer und Monat | Tracking von Boxen, Polygonen und Punkten in großem Umfang |
| Label Studio | Selbst gehostet oder gehostet | Apache-2.0 Community Edition, mit kostenpflichtigen Tarifen | Objekt-Tracking mit VideoRectangle, Labels über Frame-Bereiche mit TimelineLabels |
| ELAN | Desktop-App | GPL-3.0 | Zeitlich ausgerichtete Ebenen über bis zu vier verknüpfte Videos |
| BORIS | Desktop-App für Linux, Windows, macOS und Android | GPL-3.0 | Verhaltensereignisse aus Video, Audio oder Live-Beobachtung protokollieren |
| Prodigy | Lokal betriebene Web-App | Proprietär | Regionen mit Zeitstempeln auf einem Video über seine Audio-Oberflächen |
| VIA 3 | Eine einzelne HTML-Datei, offline im Browser | BSD-2-Clause | Kleine Videoprojekte ohne Installation |
| V7, Supervisely | Gehostet; Supervisely auch selbst gehostet | Kommerziell | Tracking mit modellbasierter Maskenpropagation und verwalteten Arbeitsabläufen |
Eine Annotationsstudie im direkten Vergleich
| Potato | CVAT | Label Studio | ELAN | BORIS | |
|---|---|---|---|---|---|
| Mehrere Annotatoren annotieren dieselben Videos im Browser | Ja | Ja | Ja | Nein, Desktop | Nein, Desktop |
| Übereinstimmung darüber, wann Ereignisse stattfinden | Zeitliche IoU und Erkennungs-F1 bei einem einzigen Zuordnungsschwellenwert, nicht zufallskorrigiert | — | Kostenpflichtige Tarife | Modifiziertes κ und Staccato, zwischen Ebenenpaaren | Cohens κ zwischen zwei Beobachtungen, innerhalb eines Zeitfensters |
| Übereinstimmung bei Tracks und Masken | Geometrische Übereinstimmung mit Zufallsbasis, Maskenkonsens und STAPLE | Konsens per IoU gegen einen Schwellenwert je Klasse | IoU, Enterprise | — | — |
| Annotatoren gegen bekannte Antworten testen | Trainingsphase mit Bestehensgrenze, Gold-Items, Aufmerksamkeitstests | Ground-Truth-Jobs und Honeypots; Qualitätsberichte in CVAT Online und Enterprise | Ground Truth, nur Enterprise | — | — |
| Rekrutierung über Prolific oder SONA | Eingebaut | — | — | — | — |
Ein Strich bedeutet, dass wir dazu im September 2026 nichts in der Dokumentation des Werkzeugs gefunden haben. Wenn eine Zelle falsch ist, sagen Sie es uns.
Wo Potato bei Video vorn liegt
Übereinstimmung bei beiden Arten der Videoannotation. ELAN und BORIS messen die Übereinstimmung bei Ereignissen, CVAT bei Formen. Potato macht beides: Ereignisse werden nach Überlappung und Erkennung bei einem einzigen Zuordnungsschwellenwert verglichen, Tracks und Masken gegen eine Zufallsbasis, sodass eine Studie, die Objekte verfolgt und Handlungen markiert, für beides eine Übereinstimmung berichtet.
Kodierende, die nie in Ihrem Labor waren. Potato rekrutiert Kodierende über Prolific oder SONA, schult sie an Übungsclips mit Rückmeldung und prüft sie während der Arbeit mit Gold-Clips. Seit Version 2.9 kann jedes Segment eine eigene Bewertung oder Freitextfrage tragen, sodass Kodierende begründen können, warum sie ein Ereignis gerade dort markiert haben.
Objekte über Frames verfolgen
Der Track-Modus von CVAT verknüpft Formen auf verschiedenen Frames als ein Objekt. Die annotierende Person passt die Form auf einigen Keyframes an, und CVAT interpoliert die Frames dazwischen linear, für Rechtecke, Polygone und Punkte. Das Tag VideoRectangle von Label Studio bringt Objekt-Tracking in Videos, für Boxen. V7, Supervisely und Segments.ai verfolgen mit Interpolation und propagieren Masken mit einem Modell.
Das Schema video_annotation von Potato hat einen Tracking-Modus, der Boxen und Polygone zwischen Keyframes interpoliert. Die Maskenpropagation mit SAM 2 läuft auf dem Server. Der Browser hat einen leichteren Pfad, der die Maske weiterträgt. Siehe Video-Objekt-Tracking annotieren.
Markieren, wann etwas geschieht
Das Tag TimelineLabels von Label Studio labelt einen einzelnen Frame per Klick oder einen Bereich von Frames per Ziehen. ELAN hängt Annotationen auf so vielen Ebenen an die Zeitachse, wie das Schema braucht, mit kontrollierten Vokabularen und bis zu vier synchronisierten Videos. BORIS protokolliert und kodiert Verhaltensereignisse aus Video, Audio oder Live-Beobachtung. Prodigy hält Regionen anhand von Video-Zeitstempeln fest, und VIA 3 annotiert Video ebenso wie Bilder und Audio.
In Potato werden zeitliche Segmente auf einer Zeitleiste gelabelt. Seit Version 2.9 setzt segment_schemes jeden Annotationstyp in ein Segment, sodass jedes Segment eine eigene Bewertung oder Freitextfrage tragen kann. Siehe Videoannotation.
Übereinstimmung bei Videoannotationen
Zwei Annotatoren, die markieren, wann ein Ereignis beginnt, wählen nicht denselben Frame. Die zeitliche Übereinstimmung hängt also davon ab, wie weit zwei Markierungen auseinanderliegen dürfen und trotzdem als dieselbe gelten.
- ELAN hat eine eingebaute Berechnung der Inter-Annotator-Reliabilität: ein modifiziertes Cohens κ, das Annotationen mit einer festgelegten Mindestüberlappung verknüpft, und den Staccato-Algorithmus, der den Zufall berücksichtigt, indem er eine Segmentierung mit zufällig erzeugten vergleicht.
- BORIS berechnet Cohens κ zwischen zwei Beobachtungen und ordnet Ereignisse innerhalb eines Zeitfensters zu, das standardmäßig zehn Sekunden beträgt.
- Potato vergleicht jedes Paar von Annotatoren nach zeitlicher IoU, Erkennungs-F1 und einem Gesamtwert der Übereinstimmung, der zugeordneten Segmenten mit unterschiedlichen Labels die Hälfte anrechnet, alles bei einem einzigen Zuordnungsschwellenwert. Für keinen dieser Werte gibt es bisher eine Zufallsbasis, und die Dokumentation sagt das auch. Siehe Übereinstimmung über die Zeit.
- Die Konsens-Engine von CVAT vergleicht Annotatoren mit roher IoU gegen einen Schwellenwert pro Klasse.
Für Tracks und Masken vergleicht Potato Masken Frame für Frame mit Maskenkonsens und STAPLE und Boxen mit der Geometrie-Übereinstimmung, die in Inter-Annotator-Übereinstimmung bei Bounding Boxes messen beschrieben ist.
Formate
Potato exportiert MOT für Tracks, DAVIS für Masken der Video-Objektsegmentierung und EAF für zeitlich ausgerichtete Annotationen, die ELAN öffnet. Siehe Computer-Vision-Formate.
Eine Tracking-Aufgabe in Potato
annotation_schemes:
- annotation_type: video_annotation
name: tracks
description: "Draw the object once, then press Track forward."
source_field: video_url
mode: tracking
labels:
- {name: subject, color: "#d1495b"}
tracking_options:
interpolation: linear
auto_advance_frames: 5
video_fps: 12
frame_stepping: trueMit frame_stepping gehen Annotatoren Frame für Frame voran, und auto_advance_frames legt fest, wie weit „Track forward“ springt.
Was Potato bei Video nicht kann
- Noch keine Attribute pro Objekt. Ein Track trägt ein Label. Kennzeichen für Verdeckung und Abschneidung brauchen ein begleitendes Schema.
- Keine Maskenpropagation im Browser. Die Propagation mit SAM 2 läuft auf dem Server.
- Keine verwalteten Annotatoren. Bringen Sie Ihre eigenen mit oder rekrutieren Sie sie über Prolific.
Geprüft anhand der Dokumentation jedes Projekts im August und September 2026.
Häufige Fragen
Was ist das beste kostenlose Videoannotationswerkzeug?
Für das Tracking von Objekten in großem Umfang ist CVAT kostenlos, ausgereift und selbst gehostet. Für die Kodierung von Verhalten oder Sprache über die Zeit sind ELAN und BORIS kostenlose Desktop-Werkzeuge. Für eine Studie, in der mehrere Annotatoren dieselben Videos im Browser labeln und Übereinstimmung berichtet werden muss, enthält Potato das kostenlos.
Welche Videoannotationswerkzeuge interpolieren zwischen Keyframes?
Der Track-Modus von CVAT interpoliert Rechtecke, Polygone und Punkte linear zwischen Keyframes. Der Tracking-Modus von Potato interpoliert Boxen und Polygone. V7 und Supervisely interpolieren und propagieren Masken zusätzlich mit einem Modell. VideoRectangle von Label Studio verfolgt Boxen.
Was sollte ich für die Verhaltenskodierung von Video verwenden?
BORIS und ELAN sind die etablierten kostenlosen Werkzeuge, und beide berechnen die Interrater-Reliabilität: ELAN zwischen Ebenenpaaren, BORIS als Cohens κ zwischen zwei Beobachtungen. Für ein Kodierschema, das mehrere Kodierende im Browser anwenden, die online rekrutiert und geschult werden, eignen sich die zeitlichen Segmente von Potato. Der Übereinstimmungsbericht von Potato für Segmente liefert Überlappung und Erkennung bei einem einzigen Zuordnungsschwellenwert, ohne Zufallskorrektur.
Welche Videoannotationswerkzeuge berechnen die Interrater-Reliabilität?
ELAN bietet ein modifiziertes Cohens κ und den Staccato-Algorithmus zwischen Ebenenpaaren. BORIS berechnet Cohens κ zwischen zwei Beobachtungen innerhalb eines Zeitfensters. Potato berichtet zeitliche IoU und Erkennungs-F1 für Segmente, ohne Zufallskorrektur, und die Übereinstimmung bei Tracks und Masken gegen eine Zufallsbasis. CVAT vergleicht die Formen der Annotatoren per IoU gegen einen Schwellenwert, und Label Studio behält Übereinstimmungsmaße seinen kostenpflichtigen Tarifen vor.
Wie wird Übereinstimmung bei Videoannotationen gemessen?
Für Ereignisse ordnet man die Segmente jedes Annotators innerhalb einer Toleranz einander zu und berichtet Überlappung, Übereinstimmung der Grenzen und Übereinstimmung der Labels, am besten über mehrere Toleranzen, denn Übereinstimmung bei einer Viertelsekunde und bei zwei Sekunden sind unterschiedliche Aussagen. Für Tracks vergleicht man die Formen Frame für Frame, mit IoU für Boxen und Masken.
Wo läuft die Maskenpropagation für Video in Potato?
Auf dem Server, mit SAM 2. Der Browser hat einen leichteren Pfad, der eine Maske ohne das Modell in den nächsten Frame überträgt.
Weiterführende Lektüre
- KI-Annotationswerkzeuge im Vergleich, alle Datentypen auf einer Seite
- Textannotationswerkzeuge im Vergleich
- Audioannotationswerkzeuge im Vergleich
- Bildannotationswerkzeuge im Vergleich
- Werkzeuge zur Evaluation von KI-Agenten im Vergleich
- Werkzeuge zur Evaluation von Weltmodellen und Roboterepisoden im Vergleich
- Video-Objekt-Tracking annotieren