公元2035年，是人和机器人和谐相处的社会，智能机器人作为最好的生产工具和人类伙伴，逐渐深入人类生活的各个领域，而由于机器人“三大法则”的限制，人类对机器人充满信任，很多机器人甚至已经成为家庭成员。这是美国科幻电影《我，机器人》中描述的未来社会，所谓的“三大法则”分别是：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管；机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

如果机器人能够严格遵守“三大法则”，也即是说机器人能够明辨是非，知道什么可做什么不可做，那么人类和机器人群体之间将会和谐相处。但是在电影中，机器人由于具备了自我进化的能力，他们对“三大法则”有了自己的理解，随时会转化成整个人类的“机械公敌”。于是，一场制造者和被制造者之间的战争拉开序幕。电影在乐观评估未来机器人的发展前景时，也提出了一个尖锐的话题：我们怎样才能让机器人明辨是非，或者说人类怎样才能永远控制住机器人，让他们为我们所用。

美国作家温德尔·瓦拉赫和科学史教授科林·艾伦长期关注机器人的应用及前景问题，他们认为在未来数年内，人工智能系统可能会摆脱人类监管，自主做出决定，甚至走上反抗人类的道路。这种不确定性，将使机器人面临的道德风险日益凸显。人类迫切需要确保机器人的设计符合道德规范。

二人在《道德机器》一书中指出，当机器人要承担越来越多的责任时，为了我们的安全，它们必须通过程序学会道德判断。本书包括《机器道德为什么如此重要》等12章，基于人类道德判断和伦理的本质，深入探讨了人类在设计具有道德判断能力的机器人的漫漫征途上所面临的巨大挑战。在快速回顾了最前沿的道德哲学与人工智能之后，二人主张，设计某种功能性的道德指令，让人工智能机器人习得某些基本的道德感是很有必要的，而且是可行的。并且，即便让机器人承担完全的道德责任有很远的路要走，但随着人类对道德理解的深入和完善，能接收复杂道德指令的各类服务型机器人将诞生。

《道德机器》最初问世时候的基本信息依然没有变，这就是：不应该让未来学家的担心和猜测转移我们的注意力，我们的任务依然是设计自主机器，让它们以可辨识的道德方式行事，使用着我们已经获得的社会、政治和技术资源。机器人也应该学会循规蹈矩，在将来这个问题必将得到圆满解决。

以上是网络信息转载，信息真实性自行斟酌。