为什么选择 Potato?
Potato 免费,而且跑在你自己的机器上。下面是它与另外十款主流工具的对照。
Potato 的横向对比
十款工具,逐条核对了它们各自的官方文档。多数工具能做到其中一部分。真正的问题是你要为此付多少钱,以及哪些能力花钱也买不到。
| 标注工具 | 视觉与企业级 | 智能体评测 | |||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
| 能力 | PotatoGPL-3.0 | Label StudioApache-2.0 | ProdigyProprietary | ArgillaApache-2.0 | CVATMIT | EncordProprietary | LabelboxProprietary | LangSmithProprietary | LangfuseMIT | Comet OpikApache-2.0 | GalileoProprietary |
| 花费 | Free | Free; $99/mo hosted; agreement is Enterprise | $390, or $490/seat (5 min.) | Free | Free; $33/user/mo hosted | Not published | Usage-based credits | $39/seat/mo | Free self-hosted | Free self-hosted | $100/mo |
| 自托管,免费* | 免费包含 | 免费包含 | 仅付费版 | 免费包含 | 免费包含 | 仅付费版 | 仅付费版 | 仅付费版 | 免费包含 | 免费包含 | 仅付费版 |
| 全部功能,无付费门槛* | 免费包含 | 不提供 | 不提供 | 免费包含 | 不提供 | 不提供 | 不提供 | 不提供 | 免费包含 | 免费包含 | 不提供 |
| 语料与智能体轨迹用同一个工具* | 免费包含 | 仅付费版 | 不提供 | 不提供 | 不提供 | 不提供 | 仅付费版 | 不提供 | 不提供 | 不提供 | 不提供 |
| 智能体轨迹标注 | 免费包含 | 仅付费版 | 不提供 | 不提供 | 不提供 | 不提供 | 仅付费版 | 免费包含 | 免费包含 | 免费包含 | 免费包含 |
| 可标注的多智能体交互图* | 免费包含 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 部分支持,见注释 | 部分支持,见注释 | 部分支持,见注释 | 部分支持,见注释 |
| 由人标注的失败归因* | 免费包含 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 部分支持,见注释 | 不提供 | 不提供 | 不提供 | 部分支持,见注释 |
| 用人工标注检验 LLM 评审 | 免费包含 | 仅付费版 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 免费包含 | 免费包含 | 不提供 | 免费包含 |
| 评审的校准误差与偏差审计 | 免费包含 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 |
| 机遇校正一致性(κ、α)* | 免费包含 | 不提供 | 仅付费版 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 部分支持,见注释 | 不提供 | 不提供 |
| 标注者能力建模(项目反应理论) | 免费包含 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 |
| 每个标签都带置信区间 | 免费包含 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 |
| 标准答案与注意力检查 | 免费包含 | 仅付费版 | 不提供 | 不提供 | 免费包含 | 仅付费版 | 免费包含 | 不提供 | 不提供 | 不提供 | 不提供 |
| 带实时一致性指示的校准会议 | 免费包含 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 |
| 同伴预测计分,无需标准答案 | 免费包含 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 |
| SFT、DPO 与过程奖励导出* | 免费包含 | 不提供 | 不提供 | 部分支持,见注释 | 不提供 | 仅付费版 | 仅付费版 | 部分支持,见注释 | 部分支持,见注释 | 不提供 | 不提供 |
| 对几何标注的机会校正一致度* | 免费包含 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 |
| 对事件发生时刻的一致度* | 免费包含 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 |
| 绘制过程遥测(接受延迟、修改次数)* | 免费包含 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 | 不提供 |
| 三维点云与立方体框* | 免费包含 | 不提供 | 不提供 | 不提供 | 免费包含 | 仅付费版 | 仅付费版 | 不提供 | 不提供 | 不提供 | 不提供 |
| 运行时不发出任何外部请求* | 免费包含 | 部分支持,见注释 | 免费包含 | 部分支持,见注释 | 免费包含 | 不提供 | 仅付费版 | 不提供 | 部分支持,见注释 | 部分支持,见注释 | 不提供 |
| 托管标注团队* | 不提供 | 不提供 | 不提供 | 不提供 | 仅付费版 | 仅付费版 | 仅付费版 | 不提供 | 不提供 | 不提供 | 不提供 |
| 云托管,无需运维* | 不提供 | 仅付费版 | 仅付费版 | 免费包含 | 免费包含 | 仅付费版 | 仅付费版 | 免费包含 | 免费包含 | 免费包含 | 免费包含 |
自托管,免费: LangSmith、Galileo、Encord 和 Labelbox 把自托管本身放在了企业合同之后。私有化部署是要跟销售谈的附加项,而不是能直接下载的版本。
全部功能,无付费门槛: Label Studio 的免费版根本不含任何一致性指标,每月 99 美元的托管 Starter 套餐同样没有。一致性、基准评测和 LLM 预标注都属于企业版功能,价格需要另行询价。CVAT 免费提供蜜罐题和标准答案任务,但把质量报告留给了付费团队。
语料与智能体轨迹用同一个工具: 这里所有的智能体评测平台都只能处理轨迹。没有一个能给语料标注情感、标出命名实体,或者发放一份问卷。
可标注的多智能体交互图: 有几款工具会画出智能体交互图,但它们都只是只读的调试视图。在 Potato 里,智能体和它们之间的交接本身就是人来标注的对象。
由人标注的失败归因: Galileo 用 LLM 推断交接失败,Labelbox 给轨迹步骤打分。两者都没有收集用来检验这些推断的人工标准答案。
机遇校正一致性(κ、α): 其他工具把一致性算作重叠百分比、IoU 或多数投票。Prodigy 确实提供 Krippendorff α 和 Gwet AC2,但它没有免费版。Langfuse 计算的 Cohen κ 是一位标注者对一个评审模型,而不是一组标注者之间。
SFT、DPO 与过程奖励导出: 部分支持指只有 SFT 风格的 JSONL,没有偏好对或过程奖励格式。
对几何标注的机会校正一致度: 本表中最强的一项。CVAT 的共识引擎和 V7 的共识阶段都用原始 IoU 与每类阈值比较标注者,Label Studio 企业版的指标清单是精确匹配、数值差异、IoU 和跨度重叠。它们都没有做机会校正——而在以大而居中的物体为主的语料上,无论谁来标注,平均 IoU 都约为 0.95。
对事件发生时刻的一致度: 时间 IoU 与边界一致度,匹配容差以扫描曲线报告,而非单一阈值。0.25 秒下的一致度与 2 秒下的一致度,是关于同一份数据的两种不同论断。
绘制过程遥测(接受延迟、修改次数): 每个形状的耗时、笔画动态、修改次数,以及 AI 建议的接受延迟。这一点很重要:当标注者对预标注一概照单全收时,一致度反而会上升,因此时间是区分「审阅」与「照单全收」的唯一信号。不记录任何坐标。
三维点云与立方体框: CVAT 同样支持,Segments.ai、Kognic、Supervisely 等三维专业工具走得更远,具备 Potato 所没有的点云序列与轨迹传播。Potato 的补充是标注者之间的精确旋转三维 IoU。
运行时不发出任何外部请求: 全部 14 个模板的样式表、脚本、字体和图标都由本地安装提供,实测 62 个请求、零外部请求。模型只需一次性拷贝。「部分」指可自托管,但渲染页面仍会请求第三方资源。
托管标注团队: 我们没有。你得自带标注员,或者通过 Prolific 招募。如果你下个月就要 50000 条数据标完却没人干,Labelbox、Encord 和 Scale 卖这个,我们不卖。
云托管,无需运维: Potato 只能自托管。对一部分团队来说这正是意义所在,对另一些团队则是实实在在的成本。
依据公开文档核实,August 2026。厂商更新很快,我们宁愿被纠正,也不愿写错。 如果某一格已经过时,请告诉我们。
选择 Potato 的七个理由
100% 免费
无套餐分级、无使用限制、无需信用卡。Potato 对研究、教育和非商业用途完全免费。
衡量标注过程,而不只是标签
大多数工具只记录标注者的决定。Potato 衡量他们是如何做出这个决定的:实时估计能力与条目难度,用反事实探测决策边界,捕捉出声的推理过程,并在没有任何黄金标签的情况下评估校准度。
开源
完全访问源代码。可自定义、扩展和贡献。永无供应商锁定。
隐私优先
在您自己的基础设施上自托管。数据永远不会离开您的服务器。非常适合敏感研究数据。
学术背景
由密歇根大学开发。发表于 ACL 2026 与 EMNLP 2022,并荣获 HCOMP 2024 最佳演示奖。
零代码配置
通过简单的 YAML 文件完成所有配置。无需编程即可创建复杂的标注界面。
智能体评估
所有工具中最全面的智能体标注支持:15 种轨迹格式、可直接标注的多智能体交互图、面向计算机操作与语音、视频的模式、编码智能体的代码差异、过程奖励标注,以及可回滚的实时观察。
谁适合使用 Potato?
学术研究者
需要可引用的免费工具用于论文和课题申请
初创公司与小型团队
无法承担每月上万美元的标注工具费用
隐私敏感型项目
IRB 要求、医疗保健或机密数据
教育工作者与学生
NLP/ML 课程中的实践标注教学