央广网上海7月9日消息（记者韩晓余）随着人工智能的迅猛发展，一些使用deepfake深度伪造技术制作的换脸视频在网络上屡见不鲜。这项技术甚至被别有用心的人利用，成为诈骗的工具。 魔高一尺，如何破解？
在2021世界人工智能大会上，依托清华大学人工智能研究院成立的产业化公司——北京瑞莱智慧科技有限公司（以下简称realai），发布了一款能够一秒识别真伪的鉴别神器——deepreal深度伪造内容检测平台，让“假脸”无处遁形。
“深度伪造技术正在不断演进迭代，急需采用主动技术防范及预警检测手段。”在2021世界人工智能大会上，北京瑞莱智慧科技有限公司副总裁唐家渝表示。
“门槛低、影响大、变化快”是深度伪造技术的显著特征，且肉眼难以识别，更无法大量检测。 针对这些痛点，realai基于第三代人工智能技术研发出的deepreal，能够通过研究深度伪造内容和真实内容的表征差异性辨识、不同生成途径的深度伪造内容一致性特征挖掘等问题，快速、精准地对多种格式与质量的图像进行真伪鉴别。
唐家渝介绍，检测效果主要受到两个因素的影响：数据集多元化程度和算法可靠程度。deepreal深度伪造检测平台算法基于大数据量进行训练和测试，截至目前，数据量已达到千万级，数据集已覆盖三大类，包括：学术深伪数据集、网络深伪数据集和自研深伪数据集。同时，通过结合贝叶斯学习框架和深度神经网络，来估计模型在预测新样本时的不确定性。以上，有效保障了deepreal深伪检测算法的泛化能力。
在测试结果方面，deepreal在学术数据集和zao等主流方式生成的网络数据集中，已达到99%以上的准确率。而在实际应用中，deepreal的检测准确率也已达到业界顶尖水平，远超 facebook此前举办的deepfake检测挑战赛所公布的最好成绩。
此前，realai团队在国际安全极客大赛 geekpwn 2020 首届 caad 虚假人脸 ai 识别大赛上，以绝对比分优势夺得冠军；在第二届“中国人工智能·多媒体信息识别技术大赛”中，斩获“创新之星”奖以及深伪检测竞赛a类奖。此外，deepreal在深伪相关领域也已发表顶级会议和期刊论文十余篇。
来源：央广网
以上是网络信息转载，信息真实性自行斟酌。
