AI エージェントの評価方法
人手アノテーションによる AI エージェントと LLM の評価の概要。軌跡レベル、ステップレベル、スパンレベル、比較レベルの評価と、それぞれに適した Potato ツールを解説します。
AI エージェントの評価とは、最終的な回答だけでなく、そこに至るまでの経路、つまり途中の推論・ツール呼び出し・アクションを判断することです。これには人手アノテーションが依然としてゴールドスタンダードです。エージェントの失敗の多く（もっともらしいが誤ったステップ、危険なアクション）は、人でなければ確実には見つけられないからです。 Potato は LLM エージェントの軌跡を人手でアノテーションするためのオープンソースツールであり、評価の各レベルに合わせた専用の表示を備えています。
ここでいう AI エージェントとは、ツールを呼び出したり、ブラウジングしたり、コードを書いたりと、複数ステップのアクションをとってタスクを完了する LLM 駆動のシステムを指します。エージェント評価の概要とエージェント型アノテーションのリファレンスを参照してください。
AI エージェント評価のレベルにはどのようなものがありますか？
問いたい内容に合ったレベルを選びます。
- 軌跡レベル：実行全体を判断します。成功したか。効率的かつ安全だったか。エージェント軌跡のアノテーションを参照してください。
- ステップレベル：各アクションを判断します。このツール呼び出しは正しかったか。このステップは必要だったか。これがプロセス報酬モデルの背後にあるデータです。
- スパンレベル：出力内部の具体的な問題、たとえば幻覚的な主張や危険な指示を強調表示します。幻覚の検出を参照してください。
- 比較レベル：2 つのエージェントや 2 回の実行を直接比較して判断します。ペアワイズモデル比較を参照してください。
- チームレベル：複数のエージェントが協力する実行を、フラットなトランスクリプトではなくチーム構造で判断します。失敗を責任を負うエージェントとハンドオフに帰属させます。マルチエージェントシステムの評価を参照してください。
Potato はどのエージェントトレース形式に対応していますか？
Potato は、OpenAI と Anthropic のツール呼び出し、ReAct、LangChain、LangFuse、WebArena、SWE-bench、MCP、OpenTelemetry を含む 13 種類の形式でエージェントのトレースを読み込み、エージェントの種類に合わせて調整した表示でレンダリングします。
- エージェントトレース表示：推論／ツールのトレース用。
- Web エージェント表示：スクリーンショットとアクションのオーバーレイ付き。Web エージェントの評価を参照してください。
- コーディングトレース表示：diff とターミナル出力付き。コーディングエージェントの評価を参照してください。
- ライブエージェント表示：エージェントをリアルタイムに観察し操舵します。ライブエージェントの評価を参照してください。
- マルチモーダルエージェント表示：コンピュータ操作・GUI・音声・動画・文書エージェント用。コンピュータ操作・マルチモーダルエージェントの評価を参照してください。
どのエージェント評価手法を選ぶべきですか？
| 問いたいこと | アプローチ |
|---|---|
| 「エージェントはタスクを完了したか？」 | 軌跡の成功ラベル |
| 「正確にはどこで間違えたのか？」 | ステップレベルのエラー分類体系 |
| 「どちらのバージョンが優れているか？」 | ペアワイズ比較 |
| 「複数の軸でどれだけ良いか？」 | ルーブリック評価 |
| 「検索文脈に基づく回答は忠実か？」 | RAG 評価 |
| 「チームのどのエージェントが失敗を引き起こしたか？」 | マルチエージェントの帰属 |
| 「コンピュータ操作エージェントは正しいものをクリックしたか？」 | GUI 軌跡レビュー |