34个回答勾画人工智能面临的对抗性挑战，Ian Goodfellow与Alexey Kurakin的8小时问答活动

雷锋网 AI 科技评论按：关注我们的读者都对 Ian Goodfellow这位仁兄非常熟悉了，作为 Yoshua Bengio 的得意门生和 GAN 的创始人，不仅是机器学习界的名人、谷歌大脑的重磅科学家，最近一两年来也在机器学习的隐私与安全性方面做出了诸多努力。

美国时间7月17日， Ian Goodfellow与同在谷歌大脑的研发工程师、计算机视觉与图像处理博士 Alexey Kurakin 一起，在Quora（国内知乎的鼻祖）上与网友们进行了一场热烈的对谈。

这事的来历是 Ian Goodfellow 牵头在要在今年 NIPS 上举办一个 Adversarial Attacks and Defences（对抗攻击防御）比赛，详情请看雷锋网 AI 科技评论报道。在比赛的消息宣布以后，上周 Ian Goodfellow 也接着就放出了自己要在Quora上做答题活动的消息，解答可能的参与者们对这个比赛的疑惑。Quora上的网友们先提问，然后他们这周会对其中的热门问题进行回答。

到了约定的这天，两人前后合力答题了8个小时，一共回答了34个热门问题，不过大部分是与比赛无关的。看来两人也是把这次答题活动作为一个跟更多人交流、发表自己观点的机会，而且确实贡献了不少简短但有力的答案。

雷锋网(公众号：雷锋网) AI 科技评论把34个问题做了分类汇总。除了比赛相关问题之外，网友们关心的问题最多的三类分别是“如何入门”、“AI发展趋势”和“当前AI技术”，应该说这种分布状况是目前 AI 圈子状况的准确体现：很多人想要加入，想知道如何学习；圈子里的人则非常积极活跃，既关注当下的重点技术和应用，也很关心新鲜趋势如何，不想被落下；因为大家都积极、扎实，所以对更长远、更虚的未来愿景问题感兴趣的人反倒少。

两人回答所有问题列表如下，回答收到赞的Top 5已经一并标在其中。

比赛相关 – 9个问题：

• 我已经在 Udacity 上完成了深度学习课程，那么我想要通过Kaggle参与 NIPS2017上的竞赛的话还需要做别的准备吗？ – Ian 答

• 想要参加 NIPS2017上的对抗攻击防御比赛的话，你认为参赛者应当有什么样的背景？ – Ian 答

• NIPS2017上的对抗攻击防御比赛中为什么选用了 ImageNet 做数据集？ – Ian 答

• NIPS2017上的对抗攻击防御比赛中，想要生成对抗性样本的最好方法是什么？ – Alexey答

• 对于NIPS2017上的对抗攻击防御比赛，有没有哪些重要的或者相关的论文是推荐阅读的？  – Ian 答

• 比赛中有限定类别和不限定类别的攻击，用于限定类别攻击的方法能同时完成不限定类别的攻击吗？   – Ian 答

• 什么NIPS2017上的对抗攻击防御比赛中需要用到Docker（代码搬运软件）？ – Ian 答

• 对于比赛中攻击防御的项目，我需要考虑所有种类的对抗性样本吗？（从一步式的方法到迭代式方法） – Ian 答

• 对抗攻击防御比赛中有什么好的基准线吗？ – Alexey答

本人研究 – 2个问题：

• 谷歌大脑2017年都在研究些什么？ – Ian 答 – Top 4

• Ian Goodfellow最喜欢的超参数优化方法是什么？ – Ian答

如何入门 – 7个问题：

• 新加入这个领域的人应该知道哪些对抗性机器学习的知识？ – Alexey答  – Top 1

• 机器学习领域最推荐的书里，前三是哪几本？ – Ian答 – Top 3

• 最推荐的书里，前十是哪几本？ – Ian答

• 如何开始学习人工智能？ – Alexey答

• 我现在念大二，想要做人工智能的话应该做那些准备？ – Ian答

• 你会鼓励其它领域的人（比如机械工程）学习机器学习吗？ – Ian答

• 完全没有技术知识的人如何学习机器学习？ – Ian答

当前 AI 技术 – 6个问题：

• 为什么现有的图像分类模型可以被欺骗？ – Alexey答

• GANs可以用来做异常值检测吗？ – Ian答

• 总的来说，对抗性训练用于防御对抗性样本有效吗？ – Ian答

• 目前有哪个GAN可以从ImageNet的任意分类（不只是名人照片和卧室照片）生成大尺寸高质量的图像吗？ – Ian答

• GANs因为可以生成好看的名人照片和卧室照片而出名，为什么对于ImageNet中其它的上千个分类的图像效果就不那么好？ – Ian答

• 对抗性学习和强化学习的区别在哪里？它们可以像 CNN+强化学习那样共同发挥作用吗？ – Ian答

AI 趋势 – 7个问题：

• 对抗性机器学习研究领域有什么新颖的、有意思的研究方向吗？ – Ian答 – Top 5

• 当前的人工智能和机器学习系统有哪些局限性？ – Alexey答

• 你觉得有没有什么有趣的方法能让自然语言处理从现有的计算机视觉研究中获益？ – Ian答

• TensorFlow作为深度学习库有多好？有哪些其它值得关注的库吗？ – Alexey答

• 独立学习者或者开发者如何与谷歌、Facebook、OpenAI这样在深度学习方面研究步伐非常快的企业竞争？  – Ian答 – Top 2

• 你认为对抗性样本是很大的问题吗？ – Alexey答

• GANs可以用来做伪造签名或者毁坏识别软件之类的坏事吗？那么系统安全专家要如何防御？ – Ian答

未来愿景 – 3个问题：

• 深度学习之后可能是什么？ – Ian答

• 未来深度学习会被其它机器学习方向取代吗？ – Ian答

• 未来5到10年内你希望在人工智能领域看到什么？ – Ian答

相信以上肯定有读者们感兴趣的问题，想要看 Ian Goodfellow 和 Alexey Kurakin两人详细回答的话，Quora上这个答题活动的地址在这里 https://www.quora.com/session/Adversarial-Machine-Learning/1 ，相信会有不少收获。

其实近期就已经有论文开启了新一轮对于对抗性样本的讨论，比如 康奈尔大学最新研究：对抗性样本是纸老虎，一出门就不好使！今天我们也有一篇文章报道了相反的观点 康奈尔大学说对抗样本出门会失效，被OpenAI怼回来了！对于对抗性样本和 NIPS2017上的对抗攻击防御比赛，雷锋网 AI 科技评论也会继续密切关注。

相关文章：

Ian Goodfellow和Papernot半年三篇博文，对机器学习的安全隐私来了个大起底

Ian Goodfellow牵头举办NIPS机器学习对抗赛，提升系统鲁棒性

UIUC最新研究：对抗性样本是纸老虎，一出门就不好使！

UIUC说对抗样本出门会失效，被OpenAI怼回来了！

。