“算法取中”监管：“阈值”最终应回到劳动力市场验证

何谓“最严算法？如何做到“算法取中”？

对此，澎湃新闻记者专访了上海人工智能研究院技术总监沈灏。

沈灏介绍，算法指的是在大数据的支持下，通过不断获取最优解，提高整个系统的效率。在很多场景下，算法及其所代表的人工智能技术，正成为人们的辅助工具，大幅提高了工作效率。“近年来我们一直在强调人工智能伦理，以人为本地把算法作为劳动者的助手，而不是对手。”

但在外卖行业，算法存在特殊性——算法与劳动者紧密相关，它用纯理性的结果，为劳动者订立考核标准。沈灏指出，本质上最严算法和算法取中没有特别严格的定义，“不断刷新最优解作为新的衡量标准来使用，可理解为最严算法。

去年人物杂志《外卖骑手，困在系统里》一文，引发了大众对“最严算法”的担忧。文章描述了支撑外卖系统运行的智能算法，为“实现劳动价值的最大化和高效化”，不断压缩外卖骑手的送餐时间，继而引发交通安全等系列问题。

在这一背景之下，如何让算法更具人性化，成为各方关注的焦点。在沈灏看来，此次的指导意见，意义在于给出了明确的方向，“明确不得将最严算法作为考核的要求，就像不能把奥运冠军的水平作为普通人的考核标准。”

摒弃最严算法作为考核要求后，指导意见提出了通过“算法取中”等方式，合理确定考核要素。沈灏指出，算法取中是一个相对模糊的概念，很难定量，通常是设置一个适当的阈值来进行技术实现。

判定阈值设定是否合理，“（需要）接下去需要针对各个业务领域大量地调研，深入每个场景，最终制定一个相对有量化指标的实施方案，有理可据地去对企业的算法做监管。”

“建立一套评价标准体系，有了标准之后，才可以比较定量地去处理算法和劳动者之间的关系。”沈灏表示。

要求“算法取中”在技术上实现的难度不大，更考验的是“企业管理层如何平衡企业利润和大众预期。”

“企业的运行效率短期肯定会受一定影响。因为算法本身提供了非常理性的结论，企业按照算法提供的结论去做，理论上可以达到最高的效率。”沈灏说。“但这只是一个纯理性的结果，长此以往会引发更多的问题，从别的角度影响企业的运行效率。但把时间轴拉长，更有战略眼光、更有社会责任感的企业，能够在劳动者的幸福感和企业运行效率之间找到平衡点，使之成为企业持续发展的势能。”

在意见提出后，如何真正将“算法取中”落实，首都经济贸易大学劳动经济学院副教授、中国新就业形态研究中心主任张成刚曾向澎湃新闻记者表示，政府可以成立专业机构，来做算法的审查测试，更直接的办法是对劳动力市场运行结果做监测。

作为技术领域的专家，沈灏也认同这一做法。“它是传统方式，也是很有效的方式。因为对算法本身来说，可能就是程序员调一个值的的问题，到底调50%还是调80%，数值对应的依据和结果分别都是什么，最后还得回到劳动力市场，去印证50%或者80%是否合理。”

对算法的监管，是数字经济治理的重要一环。《关于落实网络餐饮平台责任 切实维护外卖送餐员权益的指导意见》出台的一个背景是，2020年12月，中共中央印发了《法治社会建设实施纲要（2020－2025年）》。

在依法治理网络空间一节，实施纲要提出，制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法，以及加强对大数据、云计算和人工智能等新技术研发应用的规范引导。

不过，目前还有很多尚待进一步探讨的问题，比如当监管部门对算法提出要求，算法如何接受审查，可以向谁公开，公开到什么程度？《指导意见》暂未做出进一步的披露。

“对于人工智能企业来说，算法作为主要的产品，如果全部放开，很容易被复制，不是一个能够长期良性循环的模式。”沈灏表示。