AI 专家社区 VS 马斯克阵营：一部纪录片引发的「AI 威胁」论战

雷锋网(公众号：雷锋网)AI科技评论按：还记得那个拍过「电动汽车的复仇」的导演 Chris Paine 吗？Chris Paine 是新闻、政论节目中的常客了，他非常善于驾驭让科技圈内专家和外行们都高潮的话题，值得注意的是，导演此前的话题之作名字叫「电动汽车的复仇」，而这部片子的前作又名为「是谁扼杀了电动汽车」，算是相当具有话题性了，现在导演又盯上了「AI 威胁论」，并拉上了一直鼓吹「AI 威胁论」的马斯克，预告片一出就在以专家为主的 AI 专家阵营和以马斯克为主的非专家群体之间造成了极大的讨论，现在来借外媒 Skynet Today 的这篇「Do You Trust This Computer Gets a Whole Lot Wrong About AI Risks」了解该事件的来龙去脉，雷锋网 AI 科技评论将其文章内容编译如下。

事件起源

 曾指导话题之作「电动汽车的复仇」的 Chris Paine，在近期放出了一部 AI 威胁人类的纪录片，「你相信电脑吗（Do You Trust This Computer）」。

「Do You Trust This Computer」纪录片截图， 大家可 b 站搜索片名自行观看

在该片预告放出之前就已经吸引了众多的关注，因为马斯克早就在他拥有 2000 多万粉丝的推特账号上提前宣传了一番：

超级 AI 将颠覆人类的未来。截止周日，该网址可免费观看这部 Chris Paine 的 AI 新作。

马斯克对这部片子相当热心：除了在推上大力宣传和赞助几天份的免费在线观看之外，他还参演了该片，同样参演的还有 Stuart Russell（「Artificial Intelligence: A Modern Approach」一书的共同作者），Eric Horvitz（微软搜索实验室 Director），Andrew Ng (谷歌大脑联合创始人)，Shivon Zilis（OpenAI 的 Director）以及各种 AI 企业家们。尽管记录片在片中对 AI 可能带来的积极影响和消极影响均有所涉及，但整体上传递给大家的信息还是相当悲观的。片子的主论调就是 AI 技术将很快失控，因此大家应该对此极度担忧才行。实际上，影片甚至引用了 Mary Shelley Frankenstein 的一句令人毛骨悚然的话作为开场：

你创造了我，但我却成了你的主人…

为了应对「AI 威胁」带来的焦虑，影片提出了下面的解决方案：

1. 短期内，AI 必须被管制，以此来控制其对人类经济的不良影响以及应用到自动化武器后的可怕后果。

2. 长期内，人类必须与 AI 融为一体，即利用脑机接口技术与机器合二为一，以此应对 AI 发展到下一个阶段的产物：超级 AI。

 为此，马斯克还创办了脑机接口公司 Neuralink，并在影片中进一步介绍脑机接口技术：

AI 不能成为其他人，AI 必须与人类合二为一，我认为这点至关重要。当然，我的观点也不一定都对，我欢迎大家提出更好的那个方法。但我认为留给人类的只剩下两条路了：要么与 AI 融为一体，要么被 AI 落在身后。

当前的 AI 本就是个「一点就着火」的热门话题，随着马斯克参与进来以及他在推上对该影片的大力宣传，吸引了包括 AI 专家们和非 AI 专业人群的大量关注，其中，因对影片宣扬的"AI 威胁论"存在明显观点分歧，讨论者们形成了以 AI 专家为主和马斯克为首的两个主要言论阵营。

双方阵营言论

AI 研究社区的专家们，早就看倦了针对 AI 近期发展的不切实际报道，他们一致地对该记录片代表的观点持反对态度。许多知名 AI 专家纷纷在推特上针对该纪录片发声。

• Denny Britz，前谷歌大脑研究员

刚看了这部很棒的喜剧。如果你爱看像「瑞克和莫迪」动画片这种未来主义的片子，并有一定的机器学习常识的话，那你应该看看这部片子！连马斯克在片中都是那么的无厘头！

• Miles Brundage，牛津大学未来人类研究所的 AI Policy Research Fellow

「Do You Trust This Computer?」纪录片：

+ 在黑板上写下 dhadfieldmenell

– 太多白人男性专家，在说一些

– 虚假的东西

+ 作为片中配角的 rivatez 和 KatjaGrace 却

– 没有被采访

+ markoff 在说「et al.」 

– 该片主旨不连贯

总评分： C-

• Timnit Gebru，微软 Research AI 研究员，以研究 AI 伦理和算法偏见而闻名

这真是个难以完成的表演。他们甚至在片中设法遗漏 AI 先驱者们的言论。这真是太好笑了，连我都忍不住了。

• François Chollet，谷歌 AI 研究人员（Keras 框架作者）

显然我们需要更多、更优秀的讲解员来向大众介绍 AI：AI 真实能力、目标、真实风险，以及在经济和就业市场上对 AI 应作何期待…

而他们偏偏选择了「无端的恐慌制造」扮成的纪录片，这可能是最糟糕的介绍方法了。

作为对比，虽然非 AI 专家为主的阵营也同样在热闹地发表评论，但他们各怀己见，迟迟不愿做出一个确凿的判断。

• Daniel Oberhaus，Motherboard 记者

影片在篇幅上并没有停留在 AI 的表面，而是抓住了一切机会来探讨 AI 问题和在更深层面上挖掘 AI 的含义。该片以含有前沿 AI 学者的小段观点陈述的蒙太奇镜头作为开篇，毫无疑问，专家们能提供 AI 深刻的洞察，Paine 导演要是在影片中留出更多空间让他们发挥就更好了。

• James Vincent，The Verge 记者

值得注意的是，关于 AI 伦理和安全方面的许多重要工作都是由女性完成的，像是 AI Now institute 的 Kate Crawford 和 Algorithmic Justice League 的 Joy Buolamwini，但是她们出现纪录片中并发表言论了吗？并没有，里面几乎清一色是男性专家。影片中出现了 26 名专家，其中 23 名为男性。

• Noel Murray，洛杉机时报

继「谁扼杀了电动汽车？」和「电动汽车的复仇」这两部纪录片后，Chris Paine 导演又拍了这部在「对技术进步持怀疑态度」上更上一层楼的「Do You Trust This Computer？」。该纪录片中主要针对 AI 的益处与威胁进行了探讨，并将这两个方面结合成了一些有吸引力和警示的东西出来，不然的话，该片也就无真正的深度可言了。

一边是 AI 专家们充满自信的不赞同，另一边的媒体阵营却言论不统一，还时常做出中立的评价。两边阵营的言论对比反映出这样的现状：双方群体对 AI 理解上的信息不对称，同时也强调应采取措施使公众应更好地来理解 AI。

Skynet Today 的观点

Chris Paine 导演可能打算借影片让大家意识到「AI 风险」这一极其重要的话题，但是他的纪录片却用了很多语出惊人的方式误导观众，这明显弊大于利。影片并没有客观地介绍当前 AI 技术的现状，而是向民众灌输「超级 AI」即将来临这种不切实际的思想，以勾起大家对未来 AI 的恐慌和焦虑。

该纪录片通过以下三种不同的方式来误导民众和制造恐慌：

1. 遗漏和暗示：纪录片忽视 AI 研究者们正努力采取措施来解决 AI 风险的事实，并以此方式来制造恐慌。Skynet Today 也认同，当前的 AI 风险需要更多时间来克服这一不争事实，但与此同时，许多研究人员已经在付诸行动。此外，片中展示的与马斯克，Stuart Russell 的关键对话，以及其他专家的激烈暗示言论，都远远谈不上真实（如马斯克说当前 AI 技术已经很接近可模拟人脑网络等大话言论都也极易被拆穿）。

2. 将虚构与现实混为一谈：更糟的是，纪录片将虚构的「AI 威胁」与真实存在的「AI 威胁」混为了一谈。在整个影片中，观众看到的是来自电影「黑客帝国」「终结者」「机械姬」式的反乌托邦场景，这与对当前真实存在的 AI 威胁差了十万八千里。就当前 AI 现状而言，针对虚构的「AI 威胁」提出的解决方法也与实际应用相差甚远。与 AI 合二为一的「脑机接口」想法也完全是来源于科幻电影，对于当前 AI 技术而言简直就是天方夜谭。

3. 操控情绪化的呼吁：影片的最初五分钟是这样的：开场即引用了 Frankenstein 的惊人语句「你打造了我，而我却成了你的主人」后，影片接着用具有不祥预兆的音乐，配合着专家们简短的对话构成的迅速而有节奏的蒙太奇镜头，来刻意勾起观众对 AI 的不信任和恐惧感。

对于这些拍摄技术的手法，谷歌 AI 研究员 François Chollet 也在推特上这样说破：「这明明就是将无端的恐慌散布装扮成了一个纪录片」。拍摄手法+虚构「AI 威胁」的惊人结合鼓励观众产生了一种全新的几近真实的误解与担忧，这种完全错误的想法宣扬 AI 将快速发展到不受人类控制，而不是实事求是的指出 AI 其实与程序员开发的其他计算机算法没啥不同。

via Skynet Today，雷锋网 AI 科技评论编译。

。