vr的延迟和渲染效率优化与Nvidia VRWorks

http://blog.csdn.net/leonwei/article/details/50966071

vr现在正处于风生水起的阶段，但是vr的性能一直是大问题，最主要的问题就是响应延迟，玩家改变位置到这一位置的图像被cpu提交，gpu渲染，同步刷新到头部显示设备上，这中间的延迟会导致用户的头晕，减少相应的延迟，是vr从硬件到软件一直在优化的问题。Nvidia针对这个，新推出了VRWorks组件，这是一套软硬件结合的改善响应延迟以及提高vr渲染效率的方案，从硬件上做了一些改进和加速，同时也提供了一组api，去为你的vr应用和vr设备提供优化的方案，每当技术存在瓶颈时，硬件的改进永远是推动性巨大的。在vrwork的优化方案中，有很多很值得学习和研究的地方，也有助于我们理解vr的性能瓶颈所在，这里做一下归纳。

  vr的性能瓶颈来源

1.vr需要至少同时渲染2 张50fps的图像，比常规的pc渲染量都要大。

2.vr对输入延迟性要求很高，因为对输入超过20ms的延迟都会引起用户的不适。

VR WORKS的优化

1.vr sli 多显卡支持

通过增加显卡，增加渲染性能。

常规的多显卡渲染是这样的，

即显卡0和显卡1轮流渲染第n帧和第n1帧，但是要求cpu要提交的足够快，因为cpu还是要提交两份drawcall，cpu不能成为瓶颈，这种方式从绘制n到n绘制出来的延时如图。

vrworks 做了改进，如图

，

让显卡0和显卡1负责绘制左右两眼，而cpu为两个显卡提供一模一样的drawcall，因为zaivr的两眼绘制的东西基本是一样的，除了perspective矩阵不一样。而vrworks通过其api，实现了一组draw call 对多个显卡的广播，并可以为不同显卡设置不同的perspective（常量）。这样cpu一份drawcall对于两眼，而两眼的绘制在两个cpu并行，延迟大大节省。当然这里还有一些可能可以优化的，比如很多东西，例如shadow map，基于gpu的一些物理可能不需要在两个gpu都做一遍，可以优化一下。

2.Multy Resolution Rendering 多分辨率渲染。

这个在vr领域算是经典的优化了，很多vr设备都做了这个，原理来源于，vr的图像为了适应眼镜的变形要做卷曲（wrap），如图

我们需要得到的是右边的图，但是渲染出来的都是左图，所以一般都是在最后将左图在图像上做处理，变成右图，这样我们可以看到其实左图在边缘处很多像素在卷曲后被浪费了，于是人们就像我们是不是可以对vr的图像做不同分辨率的渲染，即中心区域用比较高的分辨率，而边缘位置用较低的分辨率，极限情况下，将大部分边缘降低分辨率，可以减少50%的pixel的渲染，提高一倍的效率。

但是常规的渲染管线，要这样做，得不偿失，因为你要切分这个区域，定义多个不同大小的viewport，然后将物体依次渲染到多个viewport上，当然你可能会想到对不同的viewport可以剪裁掉不同的物体。

但是nvidia的maxwell架构的芯片，即GTX900以上（也就是为什么做vr要用好的显卡）支持了一种叫做multi-projection的技术，即在显卡层面，支持同时运行多个视口和投影，他不同于常规管线，他在管线中并行了多个投影，同时渲染到多个viewport，pipeline还是一次，只是在后面将这些像素绘制到多个viewport，这就是硬件层面的多适口多分辨率。

3.asyncchronous timewarp 异步时间卷曲

timewarp也是vr很经典的优化，在occlus等早已使用，如果没有timewarp，我们会感觉很大的延时和眩晕。因为就算帧率再高，我们看到影响的那一刹那，渲染的也是过去某个时刻的图像，和我们当时所处的位置是不一样的，这种不一致随着帧渲染耗时的增长而增长，这种timewarp的做法是，在gpu绘制结束，扫描给显示屏前，将这个图像做一个图像空间的位移，以校准我们当前的位置，也就是说处于p0位置渲染的图像，在p1位置绘制好给我们，我们需要将其校准成p1位置的样子，这种校准有很多算法，都是在图像处理上做的平移，这样我们会感觉到看见的和我们的位置是同步的。

但是在传统的渲染中，这些工作是在一个流水线上的，也就是同步的，当某一帧很耗时很卡时，用户会迟迟收不到当前位置校准的图片，一直停留在上一帧的图片，因为gpu卡住了，后面的校准（timewarp）也不能进行，用户会感觉强烈的卡和眩晕。

这里就提出了一个异步 timewarp的概念，即在gpu上有一个独立的线程做这个warp，即不管你主线程渲染卡成什么样，我这个独立的线程会按照帧率给你每个位置的warp，给你最新的基于你位置的图像，这能解决很卡很卡时我们依然能够得到模拟的图像。但是传统的gpu不支持这种独立的线程。nvdia的vrworks加入了这个。他加入了一个high-priority context的概念，允许用户启动一个优先级最高的线程最warp，独立于你的渲染线程。

4. direct mode

传统的渲染，pc的显示器会把vr眼镜作为显示器的一个显示扩展，vr眼镜和gpu是没有直接交互的，而vrwroks里可以开启vr headset的直接模式，让gpui直接将图像扫描到vr设备。

5.Front Buffer Rendering

在direct mode下允许直接渲染到vr设备的front buffer上，还是为了减少延迟，但是直接到front buffer 上的画面撕裂问题怎么解决？

这就是nvidia vr works对vr的性能的优化，也许对于vr应用开发是个好的消息，同时从中我们也可以一窥vr中的性能瓶颈和解决思路。

最后这是vr works 现在的软硬件支持情况：

pc, D3D11 only, windows7 +, Multi resulution rendrering 要gtx 900+（maxwell arc），其他的那些要GTX 500 +。

nvidia的开发者页面、

https://developer.nvidia.com/vrworks