混合现实（MR）视频就是把人连同所处的VR环境一起拍摄进去，能够展现出人们在VR世界里的一举一动。
但是目前的方法都有一个障碍，那就是在拍摄过程中，由于人一般都是戴着一个较大的VR头盔的，因此人物的脸部基本都会被遮挡。人们的表情只能靠“脑补”来想象。
然而谷歌展示了一些新的研究成果，把这一技术带到了新的水准。谷歌结合了一系列的技术，包括HTC Vive和SMI眼部追踪，他们重新再现了被VR头盔遮挡住的人的脸部。
这一研究是谷歌研究团队、Daydream Labs和YouTube团队通力合作的成果。根据官方博客表示，这一研究的原理为：
技术核心是使用用户的脸部3D建模作为被遮挡面部的代替。这一代替物用来在MR（混合现实）视频中来同步人脸，从而打造出被头盔遮住的面部表情。
首先，我们会使用我们称之为“注视点动态外观（gaze-dependent dynamic appearance）”来捕捉用户的个性化3D脸模。首先是校准步骤，需要用户站在一个颜色+深度摄像机，还有一台显示器前面，然后用眼镜在显示器上去追看一个标记。
我们用这种一次性的校准（时间花费不到一分钟）来获得用户的3D脸模，然后获得不同的凝视方向、眨眼所映射的图像（或材质）的数据库。这一“注视数据库”（也就是通过眼睛注视来对应不同的脸模材质）让我们能够在同步中动态更换脸的形象，并且生成想要的凝视视线，让同步的脸部表情看上去自然、生动。
在这一项目背后包括科学家Vivek Kwatra和软件工程师Christian Frueh、Avneesh Sud。这一方法有很大的希望能够“应用于类似VR视频会议、多人视频游戏，与亲朋一起探索等，提高在VR里的沟通和社交性”。
相关文章
