穿上一件看似普通的T恤衫，你就如同穿上了隐身衣，能在AI摄像头面前遁于无形；用AI换脸技术制作的视频，在深度伪造检测平台的“火眼金睛”下，瞬间就能被识破，避免人脸被恶意使用。8月2日，在2021全球数字经济大会主题展上，清华人工智能研究院成果转化公司瑞莱智慧带来的一系列AI攻防技术展示颇为吸睛。
“隐身衣”能躲过AI摄像头的检测。戴冰摄
工作人员介绍，之所以T恤能够帮助实现隐身，是因为这款隐身衣上印刷了特定的对抗图案，该图案能够使监控系统的检测算法出错，让AI算法难以检测到目标，一旦穿上便可以实现隐身逃逸。
近年来，人工智能在很多场景里正逐渐替代人工或与人类协作，成为人类的眼睛。然而，这些主流应用场景的背后，往往也藏着由技术性缺陷导致的算法安全风险。例如，在一些训练数据无法覆盖到的极端场景中，自动驾驶汽车可能出现匪夷所思的决策，造成安全隐患。
小车模型涂上了对抗图案，能够从AI车辆检测中“逃逸”.戴冰摄
技术人员就在现场演示了如何通过对抗性算法将车辆隐身。将对抗样本图案张贴到模型小车上，对准摄像头，小车就能够从摄像头对车辆的检测中“逃逸”，变成隐形。瑞莱智慧高级副总裁朱萌说，对抗补丁图案能够使检测算法出错，将本应能检测到的物体变为检测不到，因而让车辆逃避检测系统的追踪。
常言道，眼见为实。然而，随着人工智能的迅猛发展，一些使用Deepfake深度伪造技术制作的换脸视频在网络上屡见不鲜，眼见已不一定为实。这项技术甚至被别有用心的人利用，成为诈骗、诬陷等罪恶勾当的工具，给社会和个人带来严重威胁。
朱萌介绍，公司基于第三代人工智能技术研发出的DeepReal，能够通过研究深度伪造内容和真实内容的表征差异性辨识、不同生成途径的深度伪造内容一致性特征挖掘等问题，快速、精准地对多种格式与质量的图像进行真伪鉴别。
记者在位于中关村科学城的瑞莱智慧展厅看到，一段借助AI技术将英国女王的脸“换”到恶搞舞蹈中的视频，在普通人肉眼看来十分逼真自然，但DeepReal平台迅速检测出异样并作出提示：“假！视频含有非真人脸。”
据介绍，瑞莱智慧团队利用产学研一体化优势，创新性地提出了“攻防动态平衡”机制，以子之矛、攻子之盾，通过攻防对抗不断升级，演练出针对性的防御技术。通过对抗性算法研究，能够先于黑客发现并修补漏洞，避免攻击隐患；通过生成更为逼真的深度伪造视频，再训练出更为领先的检测算法。目前，围绕算法可靠、数据安全、应用可控等核心能力，团队已相继推出人工智能安全防火墙、隐私保护计算与深度合成内容检测等多款自研优势平台。
相关文章
