Skip to content
計算機視覺

用 Potato 做計算機視覺標註

用邊界框、掩碼和三維立方體標註影像、影片和點雲,用 SAM 分割物件,並從你自己的伺服器匯出 COCO 或 YOLO 格式。

Potato 用邊界框、多邊形、掩碼和有向立方體標註影像、影片、十億畫素掃描圖和三維點雲,點選一下就能用 SAM 分割物件,併為每一種空間標籤報告標註者之間的一致性,其中二維形狀上的一致性經過機遇校正。Potato 免費開源,執行在你自己的電腦或伺服器上,可匯出 COCO、YOLO、Pascal VOC、KITTI 等標準格式。

Potato 的視覺功能大多在 2.8 版加入,核心是一項新增功能:Potato 中的每一種空間標籤,從二維邊界框到三維立方體,都附帶標註者之間的一致性。二維邊界框、多邊形和掩碼上的一致性經過機遇校正,三維立方體上 Potato 報告匹配後的平均三維 IoU。我們還沒有發現其他哪個標註平臺為空間標籤報告機遇校正係數。常用的指標是原始 IoU 或匹配百分比,只要某一個答案佔主導,這些數值就會偏高,而實際中幾乎總是如此。測量與完整性解釋了這對邊界框、掩碼和立方體意味著什麼。

Potato 中的計算機視覺任務

每一行是 Potato 自帶的一種標註介面,連結頁面給出了它的配置。

任務Potato 的做法文件
檢測與分割標籤在 image_annotation 方案上繪製邊界框、多邊形、折線、橢圓、關鍵點和掩碼幾何圖元
點選即分割SAM 系列模型通過 ONNX Runtime Web 在標註者的瀏覽器中執行互動式分割
用文本提示打標籤輸入一個短語,開放詞表檢測器為每個匹配物件畫框開放詞表文本提示
影片目標跟蹤在一幀上畫出掩碼,SAM 2 負責傳播,你再修正關鍵幀影片跟蹤
十億畫素影像瓦片金字塔,標註在任意縮放級別下都可用,適用於切片、航測影像和掃描地圖深度縮放
雷射雷達與點雲有向三維立方體、點、折線和逐點分割,並投影到相機影像中點雲
影像分類為每張影像打單選或多選標籤,支援鍵盤快捷鍵影像標註

模型執行在你的硬體上

互動式分割和文本提示在標註者的瀏覽器中執行,因此不需要配置 GPU,每次點選也不會發起網路請求。影片掩碼傳播則在 Potato 伺服器上執行,因為它的計算量隨幀數增長。Potato 不內建任何模型。potato download-models 把你選定的權重下載一次,此後工具即可在氣隙環境中執行。模型庫註明了每個模型的許可證;對於非商用許可的模型,不加 --accept-licence 時 download-models 會拒絕下載。

bash
potato download-models --list
potato download-models mobile_sam

匯入與匯出格式

potato import 能讀取 16 種影像和影片格式,包括 COCO(含 RLE 掩碼、crowd 區域和關鍵點)、YOLO、Pascal VOC、CVAT XML、Labelbox、LabelMe、KITTI、MOT、DAVIS、Cityscapes 和 Hugging Face 資料集。匯出器可寫出 COCO、YOLO、Pascal VOC、CVAT、V7 Darwin、LabelMe、KITTI 2D 與 3D、MOTChallenge、DAVIS、Cityscapes、PNG 掩碼,以及用於醫學體資料的 NIfTI 或 DICOM SEG。各格式保留的幾何資訊不同,計算機視覺格式說明了每種格式保留什麼。

與 CVAT、Label Studio 和 Roboflow 的分工

Potato 的特色不在繪圖工具。CVAT、Label Studio、Roboflow、V7 和 Supervisely 都能畫邊界框和多邊形,其中好幾款畫得比 Potato 更好,CVAT 尤其適合大批次的視覺標註。當標籤是一項研究的一部分時,Potato 更合適:每張影像分配多名標註者,每種空間標籤都報告一致性,有注意力檢查和黃金標準檢查,同一項目裡的文本、音訊或問卷題目也都在同一個工具中完成。影像標註工具對比逐項比較了這些差異。

常見問題

Potato 能把標註匯出為 COCO 或 YOLO 格式嗎?

可以。python -m potato.export --format coco 為檢測和分割任務寫出 COCO JSON,--format yolo 寫出 YOLO 標籤檔案。COCO 匯出器會把儲存的歸一化座標換算成畫素,並把多邊形、橢圓和畫筆掩碼轉成 COCO 分割格式。Pascal VOC、CVAT、KITTI、Cityscapes 和 PNG 掩碼同樣可用。

SAM 能否先分割出物件,讓標註者只修正掩碼?

可以。在 image_annotation 方案上啟用 sam 工具後,標註者點選一個物件,就會得到一個可以接受或編輯的掩碼。用 potato download-models 下載權重後,模型在標註者的瀏覽器中執行。對於影片,SAM 2 在伺服器上把一幀中的掩碼傳播到後續各幀。

如何測量標註者在邊界框上的一致性?

給每張影像至少分配兩名標註者,Potato 就會報告邊界框上經機遇校正的一致性,並把“標註者是否找到了相同的物件”和“他們的邊界框吻合得有多緊密”分開衡量。如何測量邊界框上的標註者間一致性解釋了這一方法,片段與邊界框一致性計算器可以在瀏覽器中對匯出檔案做同樣的計算。

能標註三維點雲和雷射雷達掃描嗎?

可以。spatial_annotation 方案在瀏覽器中顯示點雲,支援有向三維立方體、點、折線和逐點分割。八叉樹細節層次讓數百萬點的掃描在筆記型電腦上也能流暢互動,相機標定則把每個框投影到影像中,方便在二維中核對。kitti_3d 匯出器寫出 KITTI 標籤。

延伸閱讀

從這裡開始

示例設計

每個設計都是可以下載並直接執行的 Potato 配置。

其他領域

全部應用場景