原标题：如果ai机器人杀了人类，那人类还要研发机器人吗？

来源| 喜马拉雅fm 复旦郁�傣恋木�品课《郁�傣恋母吹┱苎э巍�

编辑| 周杭

如果你喜欢看科幻电影，一定经常会看到这样一种恐怖的场景：未来机器人反过来奴役，甚至屠杀人类，施瓦辛格演的电影《终结者》就是这样的。最近对人工智能的讨论，更加加剧了这种担忧。所以，我们如何才能警惕和预防机器人和人工智能？

这时候，我们就要来谈一谈“机器人三法则”（threelaws of robotics）。这三个法则是著名的科幻小说家伊萨克・阿西莫夫，在1940年的一篇小说《我是机器人》中提出来的。

第一条：机器人不得伤害人类，或看到人类受到伤害而袖手旁观。

第二条：机器人必须服从人类的命令，除非这条命令与第一条相矛盾。

第三条：机器人必须保护自己，除非这种保护与以上两条相矛盾。

这三条法则，看上去不是不错？但是执行起来却有不少问题。

有必要说一下的是，英语中的law这个词具有两种截然不同的含义：第一种是人类社会中的法律和道德律令。其目的是规范一个政治共同体中成员的基本权利与义务，甚至还要定义犯罪行为，并通过相应程序和机构对之进行审判和惩戒。

第二种含义是自然（科学）中的法则和定律。例如牛顿力学中的三大定律，它通常是用数学符号的方式来表达的。上述这两种涵义是根本的不同。法律在原则上是可以违反的。我可以尝试做坏事，例如偷东西，伤害别人等等。

有意思的是，阿西莫夫在写机器人三法则的时候，使用了不得（maynot）和必须（must）这样的语词，非常类似神学中的“神命”（divine command）。也就是好像上帝颁布给人的诫命。

但是正如人类经常忤逆神的诫命一样，人工智能为何一定要遵守这些命令呢？如果没有技术的落实和保障，这一切都仅仅是人类的一厢情愿而已。人类也面临“造物主”的烦恼。

按照我们通常的理解，打针这个行动显然要刺穿人的皮肤，并造成微量的出血。不过人类的一般常识告诉我们，这种轻微的伤害可以治愈病患的疾病，并且得到了病患的认可。

在疾病和打针之间，一般的成年人经过权衡比较，都会选择接受打针。但是要让人工智能进行这样的权衡比较，需要极为丰富的常识（commonsense）。

还有，如果阿西莫夫的第一条原则成立，那么机器人和人工智能都不得被用于执法和军事作战领域中。因为在这两个领域中，直接需要伤害特定的人。例如暴力犯罪分子和敌国的作战军人。

我们再来看第二条：第二条法则中语义存在的漏洞是“服从命令”（obeyorders）这个词。

不过我们可以设想，两个人的命令可能会出现矛盾。一个人说，你站着，另一个人说，你坐下。机器人到底应该听谁的？

还有，阿西莫夫使用了“人类”（humanbeings）这个词。服从一个特定的人（例如“我”），和服从（复数形式的）人类之间存在明显差异。如何让人工智能定义和识别“人类”成为了关键问题。

第三条法则的核心词是“自己”（itsown existence）。要明白这一表述的意指，是否需要“自我”（self）的观念，而产生这一观念的前提是人工智能具备自指（self-referential）能力。这种自指能力其实对人类自己都是一个谜。

例如从宏观来看，目前地球上有70亿人口，我们可不可以为了70亿整体人类消灭当中的30亿呢？

以上是网络信息转载，信息真实性自行斟酌。