道德编程：将定义自动驾驶的未来？

雷锋网(公众号：雷锋网)按：我们的生活正在快速走向自动化，智能软件算法已经悄无声息的接管了许多日常任务。举例来说，繁忙的股票交易 70% 的任务已经实现自动化。

不过，AI 的快速发展也让许多人的工作岌岌可危，对它的不满也在悄然滋生。从某种意义上来说，AI 遭人恨也是“罪有应得”，硅谷钢铁侠 Elon Musk 就预测称，自动驾驶汽车将让全球 15% 的工作岗位退出历史舞台。

作为未来学家和科学家，Musk 经常借助自己对 AI 的出位言论登上头条。确实，AI 的崛起会有一系列社会和经济影响，如果任由其野蛮生长，甚至可能带来大量负面影响。

人类交出控制权

虽然 AI 技术快速发展，但我们对于它的看法却迟迟没有改变。我们更加信任人类的判断，担心机器夺权，即使它们在许多工作上能力比人类强很多。

据雷锋网了解，每年全球有 130 万人因为交通事故丧命，而自动驾驶汽车在奔跑了数十亿英里后，也只是造成了几起不疼不痒的事故而已。

此外，智能机器在吸取教训的能力上也比人类强很多，它们能在几分钟内重新温习自己的错误几千次。不过，即使这样，公众对于自动驾驶汽车的接受度依然不高，这可能是出于人类的傲慢，也可能是出于谨慎小心，或者说两者兼而有之。

真能没有伤亡？

无论公众情绪如何，自动驾驶汽车的到来都是历史趋势。如特斯拉和谷歌这样的巨头都已经在自动驾驶的研发上投入巨资且取得了一定的阶段性胜利。

Musk 也预言，自动驾驶的未来已经离我们不远。同时，机器人软件工程师也正在自动驾驶 AI 技术的研发道路上大步前进。

除了要不要将方向盘交给电脑的问题，我们还有一个更深层次的问题要问，它深埋在伦理的复杂领域。那么，在紧急时刻自动驾驶汽车能杀人吗？

其实这个问题答案很简单，无论是哪个 AI，都没有杀人这个选项。

如果它们真的在路上夺走了人们的生命，可能也是因为意外故障，比如刹车失灵、视觉系统出问题或 AI 程序出现漏洞。不过，即使这样，判断 AI 造成伤害的时间和方式也没有那么简单。

将伦理道德融入自动驾驶

自动驾驶汽车面临的最经典道德困境就是电车难题，在一些紧急情况下，车辆要么撞死行人救了车上乘客，要么救了行人却害死车上乘客。

在这种情况下，车辆要靠什么做出选择？是看行人和乘客谁人多？如果有孩子是要先救孩子？如果我们给 AI 设定相关程序，是不是有些不道德？难道真的要让它在没有道德意识的情况下在路上“横冲直撞”？

“一旦技术成熟，数百万台车将自动驾驶化，因此算法道德的讨论是应该提上日程表了。”经济学家 Jean-Francois Bonnefon 说。

在讨论这个问题时，许多人认为拯救更多生命最重要，有的人则认为救孩子更重要。不过，如果这个事放在自己身上，恐怕大家都会选择让自动驾驶汽车救自己。因此，自救的本能肯定会改变人们对对错的认知。

道德编程（ Moral Programming）

所以说，现在这个问题根本没有固定答案。自动驾驶汽车肯定也会遇到双输的情境，到时也得做出艰难的决定。虽然许多人认为自动驾驶汽车不应被道德困境所羁绊，但这个问题总要面对，因此自动驾驶汽车必须接受道德编程。

当然，如何设定道德算法现在还是个未知数，但我们解决问题的态度和针对一系列问题的解决方案将塑造自动驾驶的未来。

随着全自动驾驶时代的邻近，道德编程扮演的角色将越来越重要。

雷锋网推荐阅读：

自动驾驶的道德问题是真实存在的，但未必就是“电车难题”

雷锋网版权文章，未经授权禁止转载。详情见。