2019年人工智能的六大潜在危险

2019-01-18 14:57来源:固华智能//

原标题：2019年人工智能的六大潜在危险

曾经，人们对超智能机器占领人类世界的未来忧心忡忡。世界在过去的一年表明，不必等到超智慧机器人的出现，人工智能就可能造成各种危害。

最新的人工智能方法在诸如图像分类和语音转录等感知任务上表现出色，但对这些技能的炒作和兴奋掩盖了我们离制造像我们这样聪明的机器还有多远。从2018年开始的六个争议突显，即使是最聪明的人工智能算法也可能行为不端，或者不小心应用它们而导致可怕的后果。

1.自毁的汽车

在三月份uber的一辆自动驾驶汽车发生致命事故后，调查人员发现，该公司的技术发生了灾难性的故障，而这种故障很容易预防。

优步在美的自动驾驶事故

福特和通用汽车等汽车制造商、优步（uber）等新来者以及一批初创企业正忙着将一项技术商业化，尽管这项技术还不成熟，但其投资已达数十亿美元。作为alphabet的子公司，韦莫公司取得了最大的进步；它去年在亚利桑那州推出了第一个完全自主的出租车服务。但即使是韦莫公司的技术也有限，而且自动驾驶汽车在任何条件下都不能到处行驶。

2019年要注意的是：迄今为止，美国和其他国家的监管机构都采取了不动手的做法，担心扼杀创新。美国国家公路交通安全管理局甚至表示，现有的安全规则可能会放宽。但行人和司机还没有注册成为豚鼠。2019年的另一次严重事故可能会改变监管机构的态度。

2.被操纵机器人

今年3月，有消息称，咨询公司利用facebook的数据共享做法影响了2016年美国总统选举。由此引起的骚动表明，决定在社交媒体上出现什么新闻和信息的算法是如何进行博弈的，以放大错误信息，破坏健康的辩论，并将持有不同观点的公民隔离开来。

大数据的新型误传技术

在美国国会听证会上，facebook首席执行官马克.扎克伯格承诺，尽管人工智能还远不能理解文本、图像或视频的含义，但人工智能本身可以接受识别和阻止恶意内容的入侵。

2019年要注意的是：扎克伯格的承诺将在南非和尼日利亚这两个非洲最大的国家举行的选举中受到考验。到2020年美国大选的长期准备也已经开始，这可能会激发由人工智能驱动的新型误传技术，包括恶意聊天机器人。

三.和平算法

去年，当谷歌员工得知他们的雇主正在向美国空军提供用于分类无人机图像的技术时，一场人工智能和平运动开始成形。工人们担心，这可能是为实现致命无人机打击自动化提供技术的决定性一步。作为回应，该公司放弃了相关项目，并创建了一个人工智能道德规范。

分类无人机图像技术

学术界和工业界的重量级人物支持一项禁止使用自主武器的运动。然而，人工智能的军事使用只是在增长势头，而其他公司，如微软和亚马逊，对帮助他人毫无保留。

在2019年要注意的是：尽管美国五角大楼在人工智能项目上的开支在增加，但活动家们希望在今年的一系列联合国会议上出台一项禁止自主武器的先发制人条约。

4.监视对抗

人工智能识别人脸的超人能力使各国以惊人的速度部署监控技术。人脸识别还允许您解锁手机，并在社交媒体上自动为您标记照片。

人脸识别技术

机构宣称，这项技术是一种侵入人们隐私的强大方式，而测试数据的偏见使其很可能自动进行歧视。

2019年要注意什么：人脸识别将传播到车辆和网络摄像头上，它将被用来跟踪你的情绪以及你的身份。

5.假装直到你把它弄坏

去年大量的“deepfake”视频显示了使用人工智能制作假视频是多么的容易。这意味着虚假的名人色情片，许多怪异的电影混搭，以及潜在的恶毒的政治诽谤运动。

生成性对抗网络（gans）包含两个相互对抗的神经网络，可以产生非常逼真但完全由图像和视频组成的效果。nvidia最近展示了gans如何生成你想要的任何种族、性别和年龄的真实照片。

2019年要注意的是：随着深海生物的改善，今年人们可能会开始被它们欺骗。国防高级研究计划局将测试新的探测深凹处的方法。但由于这也依赖人工智能，所以这将是一个猫和老鼠的游戏。

6.算法识别

去年在许多商业工具中发现了偏差。在不平衡数据集上训练的视觉算法无法识别女性或有色人种；根据历史数据制定的雇佣计划被证明是对已经存在的歧视的延续。

算法识别偏差

与偏见和更难解决的问题有关的是整个人工智能领域本身缺乏多样性。女性最多占据了30%的行业工作岗位，在顶尖大学的教学岗位上所占比例不足25%。黑人和拉丁语研究者相对较少。

2019年的预期：我们将看到检测和减轻偏差的方法，以及从有偏差的数据中产生无偏结果的算法。国际机器学习会议是一个重要的人工智能会议，将于2020年在埃塞俄比亚举行，因为研究偏见问题的非洲科学家可能难以获得前往其他地区的签证。

南京固华智能科技有限公司，致力于变革传统工业，专注于工业智能的研发、设计、生产、销售 和服务，为客户量身定制高效、柔性、安全的智能化设备、自动化生产线及智慧工厂解决方案， 是中国领先的智能制造服务商。

责任编辑：

声明：该文观点仅代表作者本人，搜狐号系信息发布平台，搜狐仅提供信息存储空间服务。

阅读 ()

以上是网络信息转载，信息真实性自行斟酌。