Potato 是紅外相機檢測器或鳥鳴分類器之後的人工稽核環節:由人確認和修正 MegaDetector、BirdNET、Raven 或 Audacity 的檢測結果,再匯出為 Camtrap DP、Darwin Core、MegaDetector JSON,或 Raven 和 Audacity 檔案。Potato 免費開源,執行在你自己的電腦或伺服器上,包括野外站點一臺沒有網路的筆記型電腦。
檢測器和分類器讓大規模的紅外相機調查和聲學調查成為可能,但大多數項目仍要人工核查輸出。一項對三個處理紅外相機資料的 AI 平臺的評估發現,它們的物種分類召回率總體處於低到中等水平(Vélez et al., 2022),所以模型報告的結果通常要經人核實後才能成為資料。Potato 負責這一核實環節。Potato 讀取檢測器的輸出,但本身不執行檢測器,因此你需要先在自己的機器上執行 MegaDetector、物種分類器或 BirdNET-Analyzer,再匯入它們寫出的檔案。
Potato 中的生態學任務
下表每一行是 Potato 2.12 自帶的一種稽核工作流,連結頁面給出了命令和選項。
| 任務 | Potato 的做法 | 文件 |
|---|---|---|
| 分揀紅外相機影像 | 一道單選題,預先填入檢測器給出的最高類別(empty、animal、person、vehicle),用數字鍵 1 到 4 作答 | 紅外相機 |
| 修正檢測框和物種 | 預先畫出置信度達到閾值的檢測框;如果源資料給出了物種名,還會提供物種多選題 | 紅外相機 |
| 稽核整個序列 | 共享同一 seq_id 的影像作為一個條目,以幀畫廊的形式顯示 | 紅外相機 |
| 核實 BirdNET 檢測結果 | 每段錄音一個條目,BirdNET 的框畫在頻譜圖上,在有人修改之前顯示為虛線 | 生物聲學 |
| 從零開始繪製叫聲框 | 帶時頻框和標籤的 spectrogram_annotation 方案 | 頻譜圖標註 |
| 在地圖上標註目擊點或棲息地 | 在你自己的 GeoJSON 地圖上使用點、多邊形或區域選擇的 geo_annotation 方案 | 地圖 |
稽核 MegaDetector 輸出
匯入時根據 MegaDetector 批處理檔案和 MegaDetector 處理過的影像生成一個項目。使用 --image-dir 時,Potato 直接從影像原來的資料夾提供影像,大型調查的資料不必複製一份。
potato import -i md_output.json --image-dir /data/traps --md-threshold 0.5 -o review-project/
python potato/flask_server.py start review-project/config.yaml -p 8000
python -m potato.export -c review-project/config.yaml -f camtrap_dp -o package/--md-threshold 會在任何人看到檢測結果之前,丟掉低於該置信度的檢測(預設值為 0.2)。閾值越高,要刪除的框越少,要補畫的漏檢動物越多,所以請根據你自己影像的一個樣本來設定閾值。預填的答案只有在標註者儲存該影像時才會儲存,因此匯出中只包含稽核過的影像。每個框都保留檢測器的名稱和置信度,有人改動後會被標記為已編輯,你可以據此報告稽核改動了多少檢測結果。
匯出資料
匯出格式面向生態學研究者已經在用的工具和資料倉儲,每種匯出讀取的都是稽核後的答案。
megadetector寫出帶修正後檢測框的批處理輸出 JSON,供讀取 MegaDetector 結果的工具使用。camtrap_dp寫出 Camtrap DP 1.0 資料包(deployments、media、observations 和datapackage.json)。座標和資料包後設資料來自條目欄位或--option值,缺失的內容會在警告中列出,所以釋出前請先執行 Camtrap DP 驗證器。darwin_core寫出 Darwin Core 物種出現記錄表;模型的鑑定結果未被改動時basisOfRecord設為 MachineObservation,否則設為 HumanObservation。raven和audacity_labels為每段錄音寫出一個選擇表或標籤軌,可以在 Raven 或 Audacity 中與音訊一起開啟。
與 Timelapse、Wildlife Insights 和 Raven 的分工
Timelapse 是一款為紅外相機影像打標籤的桌面程式,能讀取 MegaDetector 輸出。Wildlife Insights 是一個託管平臺,對上傳的影像做分類,並讓使用者稽核結果。Raven Pro 是康奈爾鳥類學實驗室用於檢視和測量聲音的程式。當幾個人分擔稽核工作時,Potato 更合適,因為它把影像或錄音分配給稽核者,並保留每個人的答案。當影像不能離開你自己的伺服器時,Potato 也合適,因為整個工具執行在這臺伺服器上,安裝完成後不需要任何外部連線。
常見問題
能否載入 MegaDetector 輸出,只稽核它標記出的影像?
能。potato import 讀取 MegaDetector 批處理檔案,--md-threshold 丟掉低於你所選置信度的檢測,因此沒有任何檢測高於閾值的影像一開始就是 empty。標註者按一個鍵確認或更改這個分揀答案,再在需要修正的影像上修正檢測框。
能否逐段核實 BirdNET 的檢測結果?
能。potato import -f birdnet 能讀取 BirdNET-Analyzer 的兩種輸出格式,--min-confidence 決定匯入哪些檢測。每段錄音開啟時,BirdNET 的框已畫在頻譜圖上,標註者可以移動、調整大小、重新標註或刪除這些框,並補畫 BirdNET 漏掉的叫聲。Potato 不包含 BirdNET 的模型,這些模型採用 CC BY-NC-SA 許可。
輸出能釋出到 GBIF 嗎?
Potato 能寫出釋出到 GBIF 時所用的兩種起始格式:用 camtrap_dp 生成的 Camtrap DP 1.0 資料包,以及用 darwin_core 生成的 Darwin Core 物種出現記錄表。釋出本身在 Potato 之外完成,Camtrap DP 匯出會列出匯出器未能填寫的後設資料。
Potato 能在沒有網路的野外站點筆記型電腦上執行嗎?
能,只要先裝好 Potato。Potato 的整個介面都由安裝目錄提供,稽核本機上的影像或錄音不需要任何網路連線。氣隙與離線部署列出了哪些內容在本地提供。
延伸閱讀
- 紅外相機與生物聲學工具對比:Timelapse、Wildlife Insights、Raven、Kaleidoscope 與 Potato 的比較
- 紅外相機和生物聲學:所有匯入和匯出選項
- 匯出格式:每種生態學格式寫出的檔案
- 聚合眾包標籤:合併多名志願者給出的物種判斷
- 這些工作流所依託的通用影像和音訊工具:計算機視覺和音訊與語音
參考文獻
- Vélez et al. (2022). An evaluation of platforms for processing camera-trap data using artificial intelligence. Methods in Ecology and Evolution. https://researchonline.ljmu.ac.uk/id/eprint/19506/