不要过于相信人工智能

2019年03月23日 来源：

16 16 >【pdf版】

《人工智能不会做什么》 [日]羽生善治 著 四川人民出版社

□羽生善治

有人认为只有人类才会进行创造性工作,但是已经出现了会画画、写诗的人工智能程序；有人认为只有人类才有感情,但将脑科学家的研究成果运用于人工智能后,它也能模拟感情,根据交流对象的反应产生喜怒哀乐的表情；有人认为人类才会交流,但微软在中国推出的人工智能机器人小冰已经可以用不同的对话取悦不同的交谈对象。在人类和人工智能的差异越来越小的世界里,我们将要如何与人工智能相处?日本将棋名人羽生善治独家采访人工智能领域的研究者,在《人工智能不会做什么》一书中指出,人们必须清楚地认识到,人工智能的判断过程是黑箱,而且绝对不是百分之百正确的。

关于人类与人工智能共存的社会,软银集团的孙正义先生说过的话给我留下了很深的印象。

他在讲话时经常会提到“100亿人类与100亿人工智能机器人共同生存的社会”。但是在我采访他时,他又说:“如果我们开发的大部分人工智能都只是为了追求生产效率和便利性的话,那将会是一个多么可怕的世界啊!”孙先生认为,人工智能不应该是一种与人类有隔阂的东西,而应该是有感情的,它们可以与人类相互依赖。

不过在我采访的人工智能研究者中,也有人认为,赋予人工智能感情,其实是一件很危险的事。这些研究者认为,当人工智能因为某些错误而不受控制、无法抑制感情时,造成危险的可能性会比人类情绪冲动时高得多。

孙先生也认为人工智能总有一天会超越人类。他甚至在面对我的采访时直言,也许在将来,人工智能对天气预报这样受到多重因素影响的事件也能进行分析和预测。

但是我想,正是因为人工智能将会超越人类,所以孙先生才认为人工智能需要“亲密”的元素,并将企业的目标定为“生产能与人类和谐相处的机器人”。

根据最近人工智能的发展情况来看,“比人类更强”这一点是关键所在。事实上,孙正义先生自己也说过“我想世界上至少要有一家公司,做和其他公司不一样的事”,这句话其实也意味着,他承认通常的企业在开发人工智能时,其目的往往是要获得人类所没有的能力。

人工智能通过深度学习进行思考的过程,其实是一个黑箱,即使它能带来生产力的极大提升,我们却无法理解或推测这个结果是经过怎样的过程获得的。

在nhk特别节目中,我们采访了新加坡的交通系统作为人工智能在社会中发挥作用的实际案例之一。新加坡的国土面积狭小,交通堵塞成为严重的社会问题。于是,新加坡采用人工智能来实时识别道路的拥堵程度,以改善交通。

这意味着人工智能不仅可以在将棋或围棋这样的游戏世界里活跃,在实际的社会生活中,只要有数据积累的地方,就有人工智能的用武之地。今后,人工智能只要像alphago一样有庞大的数据作为基础,就有可能产生惊人的硕果。

我个人认为,如果可以预见到引进人工智能技术后工作效率和企业利益的提升,在这种情况下使用人工智能几乎是没有什么坏处的。在一定的风险管理下,只要胆大引进就好。如果能让人工智能分担一定的工作,消除交通拥堵,这不是一件非常好的事吗?

但是如果要把人工智能用在对违法犯罪的预测上,那么无论它的回答是多么正确,我们都无法否定,监视的社会化可能会被民众视为社会问题。

让我们感到烦恼的关于要不要应用以及如何应用人工智能的类似情况,今后大概还会出现在各种各样的领域内,这其中也包括医疗等关乎人命的领域。在这些领域内是否要应用人工智能,我们必须做出艰难的决断。因为就算人工智能的准确率达到99%,1%的错误率仍然是性命攸关的。

以上是网络信息转载，信息真实性自行斟酌。