自动驾驶汽车的成熟之路上必然伴随各种道德问题

北京时间8月29日消息，据外媒报道，近日，谷歌工程总监科兹威尔在奇点大学发表了一场演讲，在谈到自动驾驶汽车面对“道德困境”将如何做选择时，他表示现在这个问题依然处于无解状态。

在日常生活中，我们时常会遇到道德困境，人们必须做出两难选择，机器也一样。最近，uber宣布在匹兹堡推出自动驾驶服务，这非常令人兴奋。不过，如果自动驾驶汽车面临一种道德困境，它将如何选择，设计者是否已经为它们设计好了应对方式呢？

举例来说，如果自动驾驶汽车快要撞上另一辆汽车，那车里坐着三个人。它可以快速转弯闪开，但拯救车上三个人的后果是撞上人行道上的三个孩子，这时它会作何选择？

这一典型的例子在自动驾驶汽车发展初期就被提出来了，而科兹威尔对这一问题的回答可以总结为：我们不知道。

科兹威尔认为，原本的“机器人不可杀人”这一定律过于简单了，它并没有考虑到一些特殊情况。举例来说，如果有人将要炸毁一幢建筑物或一个城市，那么机器人除掉他们就是符合道德的。

就自动驾驶汽车来说，科兹威尔认为我们有必要对其进行“道德设计”。在演讲中，他提到了著名的机器人三原则，即：

1：机器人不得伤害人类，或看到人类受到伤害而袖手旁观.

2：机器人必须服从人类的命令，除非这条命令与第一条相矛盾。

3：机器人必须保护自己，除非这种保护与以上两条相矛盾。

那么，对自动驾驶汽车来说，可以挽救某人的生命却没有这样做，是否可以等同于杀戮呢？

科兹威尔承认，在无人驾驶汽车的道德品性方面，他现在完全没有现成的答案。“我需要花更多时间进行思考，此前我没有进行过相关分析。”科兹威尔说道。

关于这一道德难题，谷歌首席工程师安德鲁认为，当无人驾驶汽车面临两难选择时，“答案差不多总是‘踩刹车’。”

他承认，这可能并不是完全正确的答案。但如果连踩刹车都不是一种正确的应对，那自动驾驶汽车面临的就是极端情形了。

不过，这个世界上不就是充满着极端情形吗？谷歌这种模棱两可的回答实在不能令人满意。

最近，麻省理工学院的研究人员创建了一个名为道德机器（moral machine）的调查项目。除了想知道面对此种情景人们会作何选择，此举还想获知人们希望无人驾驶汽车在面临道德困境时如何选择。

这项调查看起来相当明智，但最终结果如何我们实在无法想象。

对于该问题，uber选择不予置评，也许它们对自动驾驶汽车的“道德困境”问题也暂时无解。

以上是网络信息转载，信息真实性自行斟酌。