1. AI成“监工”：算法下外卖骑手挑战交通规则，“助手”可能变“杀手”
得票率：51.2%
案例描述：
为提高配送效率，一些外卖平台研究开发了实时智能配送系统。借助AI算法，平台可以最优化地安排订单，也能给骑手规划最合理的路线。但出于平台、骑手和用户三方效率最大化的目标，AI算法将所有时间压缩到了极致，为了按时完成配送，骑手们只能用超速去挽回超时这件事。超速、闯红灯、逆行……外卖骑手挑战交通规则的举动是一种逆算法，是骑手们长期在系统算法的控制与规训之下做出的不得已的劳动实践，而这种逆算法的直接后果则是——外卖员遭遇交通事故的数量急剧上升。同时，这也意味着，在很多人类劳动者和AI的协作专业工作中，人类将处在被管辖和被监督之下。（来源：《人物》杂志）
专家点评：
徐云程 旷视首席发展官、旷视 AI 治理研究院院长
这个案例虽然讲的是外卖骑手，但我们可以思考，当AI算法嵌入到人类社会的方方面面，人类在不知不觉中已经作为一个数据被算法研究，人类每天看到的信息究竟是算法推送还是客观公正的？当算法的技术不断臻于完美，商业利益不断迭代，对人类福祉的影响到底是什么？对AI企业来说，应在早期产品实验室研究过程和产品化过程中考虑到平等问题；作为个人，在推动AI治理时，应思考如何贡献更多前瞻性看法。
梁正 清华大学公共管理学院教授、清华大学人工智能国际治理研究院副院长
选择该案例并不是因为这是一个现象级问题，而是可以看出人工智能治理问题不是某一个单一主体可以解决的。我们可以看到，在这个案例里还包括交通规划、收入保障体系不到位等问题，我的结论是——我们需要一个多元主体共治的治理体系。
徐勇 哈尔滨工业大学深圳研究生院教授、博导
AI技术的发展与普及给人类生活带来了极大的便利，但由于商业驱动产生了以盈利为导向的技术优化，使得劳动人员在技术监管下对现实社会规章制度产生破坏行为。AI技术的应用应有利于人类社会良性发展，我国处于AI技术高速发展的阶段，企业以AI技术压榨人力劳动术来增加商业利益无疑是一种舍本逐末的行为。需要运用法律和道德对AI技术的研发和应用进行约束，正确引导企业的价值观。在人工智能普及的时代，也应充分保护劳动者的合法权益，人工智能算法的应用在追求效率和利益之外，不可忽略人性与理性，不能让机器的冰冷碾压人性的光辉。
