人工智能伦理与监管基金成立，MIT 联合哈佛大学让人类免于 AI “迫害”

《西部世界》里，机器人向人类开枪。图源网络

雷锋网(公众号：雷锋网)消息，MIT 媒体实验室（MIT Media Lab）和哈佛大学伯克曼克莱恩互联网及社会研究中心（Berkman Klein Center）共同成为了“人工智能伦理和监管基金”的管理机构。该基金将用于解决人工智能所带来的人文及道德问题。

雷锋网了解到，除了 LinkedIn 创始人 Reid Hoffman、eBay 创始人 Pierre Omidya 的非盈利组织 Omidyar Network 各捐出的 1000 万美金之外，Knight 基金会也捐助了 500 万美元，此外，还有 William and Flora Hewlett 基金会和 Raptor 集团创始人 Jim Pallotta 各捐出了 100 万美元。这笔总计 2700 万美元的基金将由 MIT 媒体实验室和哈佛大学 Berkman Klein 中心共同管理。将来，也会有更多的捐款者加入，基金的规模还将扩大。

“人工智能将影响我们每一个地球人，对社会的各个领域意义重大。”Knight 基金会 CEO Alberto Ibargüen 表示。

尽管人工智能帮助人类干了不少事儿，比如用自动驾驶技术来减少大量的交通事故，扫描医学影像来发现癌症等等。但是有不少业界人士也在发出警告称 AI 很有可能在给人类带来帮助的同时，也带给人不小的威胁。

人工智能系统能分析大量数据，但其中也可能存在偏见。

“ AI 的飞速发展带来了很多严峻的挑战，”麻省理工学院媒体实验室主任伊藤穰一（ Joi Ito）解释道，“人工智能给社会以及人类带来了不可忽视的影响，机器变得越来越智能，以至于有时候我们会担心它们是否会脱离我们的控制。其中最关键的挑战之一就是，我们如何确保自己培训的机器永远不会产生并且放大人类的偏见，以此来困扰社会？我们该如何针对这项技术展开更广泛，深入的讨论？社会该如何与AI 共同演变？人们如何将计算机科学和社会科学连接在一起，开发出不仅‘聪明’，更重要的是对社会负责的智能机器？”

人工智能伦理和监管基金将用于研究 AI 应当如何承担社会责任，例如教育、交通运输和司法等领域的计算机程序怎样确保公平性问题。该基金还希望探索出 AI 是以何种方式与公众展开对话的，帮助公众理解AI 的复杂性和多样性。此外，建立这项基金的必要性在于它将会跨越学科之间的障碍，打破不同领域的孤岛。MIT 媒体实验室、哈佛 Berkman Klein 中心以及其他潜在合作者，将作为一种共同机制，加强基金组织的跨学科工作，并鼓励交叉学科的并行对话和协作。

据雷锋网了解，该组织预计在未来数年以阶段式来达成目标，比如在 MIT 媒体实验室原定于 7 月 10 日举办的 AI 研讨会上将进行一定的补充。此外，该基金还将监督 AI 奖学金计划，对一些相关的合作项目进行支持，引导 AI 向利于社会的方向发展。

协作型网络

MIT 媒体实验室和哈佛 Berkman Klein 中心在网络社区以及多学科人才的帮助下，使用机器学习从数据中学习伦理和法律规范，并且使用数据驱动技术来量化人工智能对劳动力市场的潜在影响。

据悉，这项工作已经在两个机构中开始进行。其中一个是自动驾驶汽车的合作小组，由 Iyad Rahwan 领导，旨在讨论汽车中相关的 AI 道德复杂性；另一个是机器人小组，由 Cynthia Breazeal 领导，旨在研究人类与机器人互动过程中所涉及的道德问题。

“正如 18 、 19 世纪，工业革命对整个世界产生的影响那样，AI 的影响力也是类似的。”Rahwan 表示，他将运输系统和就业列为最可能受到自动化和人工智能影响的领域之一。“我们需要的是让整个社会处在这些系统的控制环路中，包括技术专家、工程师、伦理学家、认知科学家、经济学家、法律学者、人类学家、信仰领袖、政府监管者等等，以达到公众效益。“

Breazeal 表示，“人工智能为所有年龄和阶段的人提供了深度个性化的学习体验，”她强调人工智能需要接触发展中国家和少数派人群。同时，她补充到，“人工智能也是一把双刃剑，这种技术该如何惠及大众，又该如何保护人类的隐私和安全？这些问题都需要慢慢思考。”

共同的目标

哈佛大学 Berkman Klein 中心一直致力于研究以公共利益导向的解决方案，比如知识共享和美国数字公共图书馆。此外，目前它还和 MIT 媒体实验室合作，将一部分高水平的开发人员和高科技行业的专业人士汇集在哈佛大学进行为期三周的严格培训，随后还将展开 12 周的协同研究，让各路人才共同探索网络安全问题。

哈佛大学 Berkman Klein 中心的联合创始人兼计算机科学教授 Jonathan Zittrain 表示：“这些研究会帮助我们判断 AI 事业更深层次的目标。虽然有时人工智能让人担忧，但是人类应该做的工作是确定和培养自身在技术面前的自主性和尊严，而不是去削弱技术。”

据了解，“人工智能伦理和监管基金”将由一个小型董事会进行管理。此外，董事会在选举出一组专家顾问，其中包括 Daniela Rus、Andrew，以及 Max Tegmark 等 MIT CSAIL 实验室的大牛。

麻省理工学院媒体实验室主任伊藤穰一表示，现在对各个领域进行覆盖是至关重要的。“我们决定创建一个动态网络，而不是建立一个机构。解决问题最好的方法就是展开跨学科、交叉领域的研究。我们这个项目只是一个开始。”

Via MIT

*文中图片及封面来源于网络。

雷锋网版权文章，未经授权禁止转载。详情见。