全球新一轮科技革命和产业变革方兴未艾，而作为引领新一轮科技革命和产业变革的核心驱动力量之一，人工智能近年来被广泛应用于金融、电商、医疗等领域。

风生水起之余，人工智能产业也暗藏隐忧：随着全球人工智能规模化建设和应用的加速，人工智能基础设施、设计研发及融合应用面临的安全风险正日益凸显。由中国信息通信研究院联合瑞莱智慧realai、百度、腾讯等单位共同撰写的《人工智能安全框架（2020年）》显示，随着深度伪造技术开源代码、app应用增多，不法分子利用深度伪造技术制作虚假视频侵犯个人肖像权、名誉权和隐私权的现象屡见不鲜。截至2019年12月份，全网流传的深度伪造视频中，虚假色情内容占比高达96%。

而这只是问题的冰山一角。指纹和人脸识别留下的生物特征信息、自动驾驶留下的个人行踪记录、手机app保存的个人隐私数据，医院里留存的诊断治疗记录……人工智能跑步进入人们工作生活的众多场景，用户各种行为被记录并作为数据保存起来，由此带来的数据泄露、数据伪造、算法瓶颈、隐私安全、伦理困境等问题如今正一点点浮出水面。据有关报道，今年7月份就有不法分子在电商平台贩卖人脸信息，以5角钱一份的低价打包出售后，被盗的人脸信息被用于虚假注册、电信网络诈骗等违法犯罪活动。

尴尬的是，《人工智能安全框架（2020年）》显示，现阶段人工智能企业主要聚焦于技术研发和产品运营，在人工智能安全方面投入相对较少、基础薄弱。目前，人工智能安全技术多处于学术研究和少量试验试用阶段，尚未形成适用于各类人工智能应用的成熟安全产品和服务体系。

人工智能产业健康有序发展，安全是重要保障，是形势所需，也是一些技术落地不可或缺的前提。离开了安全谈人工智能，犹如无水之源、无本之木。实践也已证明，时下人工智能安全需求与企业安全投入不足以及人工智能安全产品服务欠缺之间的矛盾，正成为制约人工智能产业长远发展的瓶颈。

站在发展困境与时代机遇重叠的关键时刻，业界期待产学研各界协同合作，不断完善与升级出更安全、可信、可靠的人工智能技术，扎牢人工智能安全的篱笆，让人们能安心享受这一技术红利。

来源：中国机器人网

以上是网络信息转载，信息真实性自行斟酌。