Skip to content

アノテーションを機械学習向けにエクスポートする

Potato のアノテーションを ML 向けの形式、JSON/JSONL、CoNLL、Hugging Face Datasets、spaCy、COCO、YOLO にエクスポートする方法と、それぞれの用途を解説します。

アノテーションの目的はたいてい、モデルを訓練するか評価することなので、エクスポート形式は重要です。Potato は素の JSON/JSONL/CSV を書き出すほか、訓練パイプラインがそのまま読み込める ML ネイティブな形式も出力でき、つなぎのコードは不要です。 ラベル付けの前に出力先の形式を決めておくと、データと ID をどう構成すべきかが見えてきます。

リファレンスはエクスポート形式を参照してください。

タスクに合わせて形式を選ぶ

形式用途
JSON / JSONL汎用。項目ごとに 1 レコード。無難な既定値。
CSV表計算ソフトでの利用や、分類ラベルの手早い分析。
CoNLLトークン単位の系列ラベリング(NER、チャンキング)、BIO タグ付き。
Hugging Face Datasetstransformers の訓練にそのまま読み込む。
spaCyspaCy の NER やテキスト分類モデルの訓練。
COCO / YOLO画像アノテーションからの物体検出とセグメンテーション。
Parquet大規模な列指向ストレージと分析。Parquet エクスポートを参照。

出力形式の設定

yaml
output_annotation_dir: "annotation_output/"
output_annotation_format: "jsonl"   # json, csv, conll, ...

エクスポートに含まれるもの

典型的なレコードには、項目 ID、元のコンテンツ、各アノテーターのラベル、メタデータ(誰が、いつ)が含まれます。集計結果だけでなく全アノテーターのラベルを残しておくと、一致度を計算でき、後から別の方法で再集計できます。

ラベル付けの前にエクスポートを計画する

エクスポート形式は入力の設計を制約します。系列ラベリングのエクスポートには一貫したトークン化が必要で、COCO/YOLO には画像の寸法が、Hugging Face には安定したラベル集合が必要です。出力先を先に決めておけば、調査をやり直さずに済みます。アノテーション向けのデータ形式の設計を参照してください。

さらに読む