数据增强技术使ai模型能够基于大都会艺术博物馆的一个小型数据集来模仿艺术作品,并在医疗健康等领域开创全新的潜在应用。
nvidia research的最新ai模型可谓生成式对抗网络(gan)领域的“神童”。相较于典型的gan,它只需要基于极少量的学习材料,就能学习诸如模仿着名画家和重建癌症组织图像这样复杂的技能。
通过将一种突破性的神经网络训练技术应用于常用的nvidia stylegan2模型,nvidia的研究人员基于大都会艺术博物馆中不到1,500张图像重新设计了艺术作品。他们使用nvidia dgx系统加速训练,从历史人物肖像中汲取灵感,创作出了全新的ai艺术作品。
这种称为自适应鉴别器增强(ada)的技术能在将训练图像的数量缩减10-20倍的情况下,仍保持不错的效果。未来,该技术将会为医疗健康领域带来重大影响,例如,可通过创建癌症组织学图像来帮助训练其他ai模型。
nvidia图形研究副总裁david luebke表示:“这些研究结果意味着,人们可以使用gan来解决大量数据过于耗时或难以获取的问题。我十分期待艺术家、医学专家和研究人员能够对其充分利用,实现更多应用。”
本周,这一项目的研究论文将在年度神经信息处理系统大会neurips上发表。在本届大会上,nvidia research破纪录地有28篇研究论文入选,该论文就是其中之一。
这种新方法是nvidia研究人员在gan领域的一系列创新中的最新成果。这些研究人员开发了基于gan的突破性模型,包括ai绘画应用程序gaugan、游戏引擎模拟器gamegan和宠物照片转换器ganimal。这些模型在nvidia ai playground均有提供。
数据训练的困境
像大多数神经网络一样,gan长期遵循一个基本原则:数据训练量越多,模型越完善。这是因为每个gan都由两个配合的网络组成——一个生成合成图像的生成器,以及一个根据训练数据来学习逼真图像的鉴别器。
鉴别器会指导生成器,提供逐个像素反馈,以帮助其提升合成图像的真实感。但如果可供学习的训练数据有限,鉴别器就无法帮助生成器发挥其全部潜能,就如同新手教练的实战经验要比经验丰富的专家少得多。
要训练高质量的gan,通常需要50,000至100,000个训练图像。但在很多情况下,研究人员根本没有成千上万的样本图像可以利用。
仅使用几千张图像进行训练,许多gan就会难以运行,无法产生逼真的结果。当鉴别器仅能记住训练图像而无法向生成器提供有用的反馈时,就会发生“过拟合”的问题。
在图像分类任务中,研究人员会通过数据增强来解决过拟合的问题。这项技术使用现有图像的副本来扩展较小的数据集,这些副本经过旋转、裁剪或翻转等过程而随机扭曲,从而迫使模型更加通用化。
但是,此前将增强技术应用于gan训练图像时,生成器学会了模仿那些失真的图像,而非创建可信的合成图像。
gan的实战演练
nvidia research的ada技术能够自适应地应用数据增强,这意味着在训练过程中的不同点上,可以调整数据增强的数量,以避免过拟合。这使诸如stylegan2这样的模型可以使用更少的训练图像,获得同样惊人的效果。
结果,研究人员可以将gan应用于从前看来不切实际的应用中。在这些应用中,示例往往太少且难以获得,或收集大型数据集的工作太耗费时间。
艺术家使用了不同版本的stylegan来创作令人惊叹的展品,并根据传奇插画家osamu tezuka的风格创作了新的漫画。adobe甚至采用它来为photoshop的全新ai工具“神经过滤器(neural filters)”提供支持。
由于入门所需的训练数据较少,因此采用ada的stylegan2可应用于珍稀艺术作品,例如总部位于巴黎的ai艺术团体obvious在非洲科塔面具上的作品。
另一潜在应用是医疗健康领域,因为大多数检查结果都是正常的,因此罕见疾病的医学图像可能非常稀少。要想积累大量有用的异常病理切片数据集,需要医学专家花费大量时间,辛苦地进行标记。
通过gan,采用ada创建的合成图像可以填补这一空白,为另一种ai模型生成训练数据,从而帮助病理学家或放射学家发现病理图像或mri研究中的罕见病情。此外,借助ai生成的数据,就不存在患者数据或隐私方面的担忧,更便于医疗机构共享数据集。
nvidia research在neurips上大放异彩
nvidia research成员团队由全球200多名科学家组成,致力于ai、计算机视觉、自动驾驶汽车、机器人技术和图形学等领域。在12月6日至12日举行的年度最大的ai研究会议neurips上,将重点介绍nvidia研究人员撰写的超过24篇论文。
点击链接,查看nvidia 在neurips大会上发表的全部论文。
文章主配图是由stylegan2借助ada生成的,其仅仅基于大都会艺术博物馆收藏品api的不到1,500张图像的数据集进行了训练。
来源:中国机器人网
来源:机智网
以上是网络信息转载,信息真实性自行斟酌。










