开发出CSAM扫描系统的大学研究人员敦促苹果不要使用”危险”技术

研究人员指出，鉴于他们的领域，他们"知道端到端加密的价值，它可以保护数据免受第三方访问"。他们说，这种担忧是他们对CSAM"在加密平台上扩散"感到恐惧的原因。

Mayer和Kulshrestha说，他们想为这种情况找到一个中间地带：建立一个在线平台可以用来寻找CSAM和保护端到端加密的系统。研究人员指出，该领域的专家对这样一个系统的前景表示怀疑，但他们确实设法建立了这样一个系统，并在此过程中注意到一个重要的问题。

我们试图探索一个可能的中间地带，即在线服务可以识别有害内容，同时保留端到端加密。这个概念很简单。如果有人分享的材料与已知的有害内容的数据库相匹配，服务将被提醒。如果一个人分享了无害的内容，服务机构将一无所知。人们不能阅读数据库或了解内容是否匹配，因为这些信息可能会暴露执法方法并帮助罪犯逃避检测。

有识之士认为，像我们这样的系统远不可行。经过多次错误的开始，我们建立了一个工作原型。但我们遇到了一个明显的问题。

自从苹果公司宣布这项功能以来，该公司一直受到关注，即检测CSAM背后的系统可能被用来在专制政府的要求下检测其他形式的照片。苹果公司强烈反对这种可能性，说它将拒绝政府的任何此类要求。

尽管如此，人们普遍对用于CSAM检测的技术的未来影响表示担忧。Mayer和Kulshrestha说，他们对政府如何使用该系统来检测CSAM以外的内容感到"不安"。

例如，一些外国政府可以强迫一项服务将分享不受欢迎的政治言论的人剔除。例如，印度今年颁布的规则可能要求对批评政府政策的内容进行预先筛选，俄罗斯最近对Google、Facebook和Twitter进行了罚款，因为它们没有删除相关抗议材料。

此外，研究人员认为内容匹配过程可能会出现“假阳性”，恶意用户可能会找到缺陷玩弄系统，使无辜用户受到审查。

我们感到非常不安，于是我们采取了一个在计算机科学文献中从未见过的步骤。我们对自己的系统设计提出警告，敦促进一步研究如何减轻严重的弊端……

苹果公司方面则设法继续解决用户对其计划的担忧，他们发布了更多的文档和一个FAQ页面，公司仍然认为，其CSAM检测系统将发生在用户的设备上，符合其长期以来的隐私价值观。