Skip to content
指南阅读约需 4 分钟

Mechanical Turk 已关闭:把 Potato 研究迁到其他平台

Amazon Mechanical Turk 已于 2026 年 9 月 30 日关闭。原先在 MTurk 上运行的 Potato 研究如何迁到 Prolific、SONA 或 CloudResearch Connect,以及哪些部分保持不变。

Potato Team

Amazon Mechanical Turk 已于 2026 年 9 月 30 日永久关闭,所以原先在那里招募参与者的 Potato 研究现在需要换一个平台。迁移只改动配置中的两部分,即登录和完成,标注任务、培训、注意力检查和黄金标准都保持原样。

这篇文章原本讲的是如何把 Potato 任务部署到 MTurk。Amazon 于 2026 年 7 月 30 日停止向新的发布方开放 MTurk,并在 9 月 30 日关停了这项服务,mturk.com 现在显示该市场已永久关闭。发布方网站和发布方沙盒都提示,创建 HIT(MTurk 上的工作单元)和完成任务的功能均已不再提供。

Potato 中的 MTurk 设置

Potato 从来不创建也不管理 HIT。MTurk 负责招募工作者并跟踪他们的任务分配,Potato 则是 ExternalQuestion HIT 另一端的标注界面。两边靠一项登录设置连起来,它让 Potato 从 MTurk 放进 URL 的 workerId 参数中读取每位工作者的身份:

yaml
login:
  type: url_direct
  url_argument: workerId

Potato 仍然能加载这份配置。服务器可以启动,存放在 <output_annotation_dir>/<workerId>/ 下的标注仍然可读,导出命令也能用,所以即使已经没有工作者能访问服务器,已完成研究的数据依然完好。

把研究迁到其他平台

Potato 支持的每个平台都沿用 MTurk 当初的模式。平台把每位参与者带着 URL 中的 ID 送到你的服务器,Potato 用这个 ID 让参与者登录,参与者离开时拿到完成码、被跳转回平台,或者在 SONA 上获得学分。因此,迁移研究就是把 login.url_argument 从 workerId 改指向新平台的 ID 参数,如果配置里有 mturk 块就删掉它,再加入新平台的 crowdsourcing 块。以 Prolific 为例,结果如下:

yaml
login:
  type: url_direct
  url_argument: PROLIFIC_PID
 
crowdsourcing:
  provider: prolific
  prolific:
    completion:
      code: "C1ABCDEF"   # the code from your Prolific study's settings

选哪个平台,取决于希望谁来参与。

  • Prolific 从一般研究人群中招募参与者;有了 API 令牌,Potato 会跟踪提交情况,并释放退回任务或超时的参与者手中的条目。在 Prolific 上运行标注研究完整演示了一套设置。
  • SONA 服务于你所在大学自己的被试池。Potato 通过 SONA 的服务器端学分接口为每位参与者发放学分。
  • CloudResearch Connect 通过带有 participantId 的 Project Link 从一般研究人群中招募参与者。
  • Clickworker 和 Microworkers 是开放的微任务众包人群,与 MTurk 的模式最接近,也是这几个平台中最需要严格质量控制的。

众包集成列出了每个平台的配置块和研究 URL,另外还有 generic 提供方,适用于任何在 URL 中传递 ID 的其他样本平台。

用旧的 MTurk 数据核对新的人群

注意力检查、黄金标准、培训阶段和每位标注者的配额在每个平台上的工作方式都一样,所以保持不变即可。让它们保持一致,也是新旧数据能够相互比较的前提,因为新平台上的人并不是 MTurk 的工作者。如果研究延续的是在 MTurk 上收集的数据集,就在新平台上运行同样的黄金条目,并在合并标签之前比较准确率。众包标注的质量控制中介绍的检查都在 Potato 内部运行,所以无论在哪个平台上,给出的证据都相同。

报酬也需要重新设定,因为新平台的费用和最低报酬与 MTurk 不同。标注成本与时间计算器根据条目数、每个条目的标注者人数和每个条目的用时为研究估算费用,可以使用 Prolific 的费率,也可以使用其他任何平台的费率。

延伸阅读