Skip to content
Guides1 min read

「部分的」は実在の結果:ロボットのエピソードをアノテーションする

ロボットの実演はその多くが部分的成功であり、二値の結果はそれを捨ててしまいます。タイムライン型のアノテーション画面が押さえるべきこと、極小・極大を保つ間引きから事後のラベル付け直しまで。

Potato Team

ロボットの実演とは、複数の同期したカメラストリームに加えて、関節位置、グリッパー状態、力トルク、報酬といった複数の数値時系列であり、そのすべてがフレームで索引付けされています。これについて問う価値のあることはすべて時間的です。把持はいつ始まったのか、いつ失敗したのか、各時点でどれだけ完了に近かったのか。

だからインターフェースはフォームではなくタイムラインでなければなりません。そこから何が必要になったかを以下に記します。

部分的が最頻の結果

最初の設計上の判断は結果の語彙でした。そして素直に思いつく答えは間違っています。

成功か失敗かは自然な二値で、そして信号を壊します。実際のロボットデータでは、部分的成功が最頻の結果です。アームは対象をテーブルから持ち上げて落とした。ブロックを正しい箱には入れたが仕切りを間違えた。タイムアウトの二秒後に課題を完了した。

これらを「失敗」に押し込めば、一度も動かなかったアームと見分けがつかなくなります。「成功」に押し込むのはもっと悪いことです。どちらの割り当てで訓練された方策も、実際に起きたことについて真でないものを学びます。

三つの結果に、失敗原因の分類体系——把持失敗、対象の滑落、衝突、対象違い、設置位置違い、タイムアウト——を添えれば、失敗は数えられるだけでなく分析できるようになります。

信号はタブの裏ではなく動画の隣に置く

これには公刊された裏付けがあります。ATLAS(ウィーン工科大学、2026)は、固有受容の時系列を動画と並べて表示すると、視覚のみのツールに対して境界の誤差が減ると報告しています。この知見が、Potato がそもそもこれらのレーンを描画している理由です。

実際のエピソードを見ればすぐに納得できます。把持の失敗は、カメラで明白になる数フレーム前にグリッパーと手首の力の波形に現れます。グリッパーが閉じ、力は上がらず、そのあとになってようやく動画に空の手が映るのです。

レーンがタブの裏にあれば、アノテーターは開きません。

平均ではなく極小・極大で間引く

30 Hz の 30 秒エピソードは 1 系列あたり 900 サンプルで、それを幅 300 ピクセルほどのレーンに描きます。何かを捨てるしかありません。

平均による間引きは、まさに捨ててはいけないものを捨てます。一フレームだけの力の尖りこそが当の事象であり、それを近傍と平均すれば完全に消えます。レーンは滑らかに見え、接触の瞬間は失われます。

極小・極大を保つ間引きは各バケットの両極端を残すので、一フレームの尖りがピクセルまで生き残ります。これは小さな実装上の細部ですが、そのレーンがそもそも役に立つかどうかを左右します。

層ごとにコストがまるで違う

アノテーションの層は三つあり、そのコストは比較になりません。

エピソードあたりのコスト
フェーズ分割
結果と原因
密な進捗報酬

そこで各層は個別に設定でき、多くのプロジェクトは一部だけを有効にします。三つすべてを交渉不可の一枚のフォームとして出荷していたら、報酬曲線が原因で誰も研究を完了できなかったでしょう。

事後のラベル付け直しは失敗をデータに変える

記録された課題では失敗したエピソードが、別の課題の成功実演であることは頻繁にあります。アームは左の箱にブロックを置くつもりで右に置いた。それは記録された指示に対する失敗であり、別の指示に対するきれいな成功です。

そのエピソードが実際に示しているものを集めるのは、アノテーション時ならテキスト欄一つで済み、後からは取り戻せません。使うかどうか確信がなくても尋ねておいてください。

三つの問い、三つの一致度指標

三つの層は三つの異なる種類の答えなので、三つの指標が要ります。

  • フェーズ境界 — 時間 IoU
  • 結果ラベル — Krippendorff's α
  • 報酬曲線 — ICC と Pearson

いずれもカバー率を併記して報告します。タイムラインの 5% で計算された相関は残り 95% について何も語らず、カバー率を伴わない係数は、あたかも全体を語っているかのように読まれます。

境界については特に許容幅が効いてきます。0.25 秒での一致度と 2 秒での一致度は別の主張なので、レポートは一つを選ぶのではなく許容幅をスイープします。

形式

LeRobot v2、RLDS/TFDS、HDF5(RoboMimic と ALOHA)、ROS bag はいずれも同じフィールドから取り込めます。書き出しは LeRobot v2 とフレームごとの JSONL サイドカーなので、読み取り専用の公開データセットでも、再公開せずにあなたのアノテーションを携えられます。

Potato が答えにならない場合

ATLAS は ROS bag を対象に単独アノテーターの境界精度に特化して作られており、その点では優れています。ELAN と BORIS は行動コーディングの標準であり続けています。RerunFoxglove はロボティクスの可視化ツールとして最良です。

Potato が加えるのは、複数アノテーターに対応し、ウェブに配備でき、結果に対する一致度統計を備えていることです。一人でアノテーションするなら ATLAS を使ってください。

参考文献