特斯拉 ceo 埃隆·马斯克(elon musk)在推特发表了许多可怕的 “ai 威胁论”,预言 ai 在未来会统治人类,危险性超过了朝鲜核危机。对于这种 “ai 威胁论”,微软创始人比尔·盖茨和微软ceo 萨提亚·纳德拉(satya nadella)都表示不同意,认为该观点过于极端、悲观,忽视了人作为 ai 创造者的主动性和控制权。本文译自venturebeat。
比尔·盖茨:担心 ai 毁灭人类,为时尚早
这是我与马斯克观点不一致的一点。马斯克担忧 ai 会毁灭人类,但实际上,该担心这个的时候还远远未到。我们不应该对此感到恐慌,但同时也不应该过度乐观,不能忽略它的可能性。
——微软创始人比尔·盖茨
现阶段,我们对于 ai 的核心原则应该是:如何提高人类的能力?就算 ai 自我学习系统做出的决定,也有许多是人类可以把控的。因此,人类可以确保这种系统不出现偏见性或不良的数据。与其担心'ai 会控制人类',倒不如行动起来,我们可以通过许多方法来改变未来。控制是一种选择,我应该努力保持这种控制。
——微软 ceo 萨提亚·纳德拉
venturebeat 撰稿人 john brandon 也同意上述观点,认为 ai 基本上只都会听人的指示来行动。
john 表示,许多 ai 工程师和机器人专家都认为,编好程序的 ai 不太可能会做出格的事情:它们不会突然无视代码,然后就“黑化”,把你家的车开进湖里。代码很“听话”,因为人类没有“交代”的任务,它绝对不会执行。这是由人类主控的道德准则。《终结者》不过是好莱坞的幻想。
对 ai 应保持适当的警惕
不过,john 也提醒大家,我们仍然不能对 ai 放松警惕。
ai 与人类一个很大的差别,在于人类会受到“持续注意力” (sustained attention)的影响,同一时间只能思考一件事情,无法“一心两用”。但是 ai 却可以同时思考 100 件事情,一旦触发了指令,ai 可能会引发一连串动作,比如:智能车库一旦被语音触发,就有可能在开门的同时,开灯、开启家里的供暖系统、还有可能把家里的炉子打着,从而构成潜在危险。
转载:中国机器人网(原始来源:评论:0)
以上是网络信息转载,信息真实性自行斟酌。