虚拟现实影像交互作品分析

第二节 虚拟现实影像交互作品分析

一、虚拟现实硬件技术分析

在虚拟现实技术理论框架下,立足当代技术发展的实际水平,视听觉沉浸与参与者的交互是虚拟现实语境下的数字影像的两大技术要点。在听觉沉浸的实现技术方面,仍然保持平稳的技术发展曲线,主要通过立体声技术使参与者在视觉沉浸的基础上增强虚拟世界的真实感体验。而在视觉沉浸与交互硬件方面的技术发展则推动着虚拟现实行业整体的跨越式前进。

(一)视觉沉浸技术

人类获取视觉信息依赖于由眼睛、视觉神经与大脑组成的视觉系统。而人类通过视觉系统能够获取的画面信息受到视野、视距、图像清晰度的制约,在通过显示媒介实现视觉呈现的虚拟现实技术领域,显示媒介的刷新频率也是影响视觉沉浸体验的重要因素。

1.视野

视野在生物学上是指双眼可以观察到的最大水平方向与垂直方向的空间范围。视野是人类生理层面的指标,在人类种群范围内具有普遍的规律性,对视野的研究是虚拟现实技术实现视觉呈现真实感的重要理论基础。国家标准DLT 575.2-1999控制中心人机工程设计导则第2部分根据人头部与眼睛的不同状态,将人类的视野分为三种类型:直接视野、眼动视野、观察视野。

直接视野一般是指人的头部与双眼都处于稳定的静止状态时,眼睛能够观察到的水平方向与垂直方向的空间范围,可以细分为单眼直接视野与双眼直接视野。就双眼直接视野来说,在水平方向上的最大直接视野可以达到190°,即95°-0°-95°,但最佳直接视野只集中在视线中心左右各15°,即30°的范围内。在垂直方向上的最大直接视野范围为105°,即15°-0°-90°,而最佳直接视野是中心线偏下的15°-45°,并不像水平视野一样以视线中心为对称轴。在最佳视野之外的视野范围内,人类视觉能够获得模糊呈现的轮廓与运动信息,却不能获取细节信息。如果想获取最佳视野范围之外的视觉信息细节,就需要调整头部位置或转动眼球调整视线方向,以调整有效的视野范围,使关注对象进入眼动视野。

眼动视野是指不移动头部位置,只转动眼球跟随关注对象移动视线时,能够依次感知到的水平方向与垂直方向的空间范围,可以细分为单眼眼动视野与双眼眼动视野。眼动视野是以转动眼球这种耗能较小、速度最快的视野调整方式感知更大空间范围的方法,叠加直接视野原本可觉察的空间范围,双眼水平眼动视野的最大范围可以达到110°-0°-110°,而最佳水平眼动视野则是以视线中心为对称轴的30°-0°-30°。在垂直方向上的最佳眼动视野为中轴线以下的5°-55°,而最大眼动视野则是25°-0°-90°。如果视线焦点位置超出最佳眼动视野范围,就会带动头部转动,而进入观察视野范围。

观察视野是当人身体位置与基本姿态保持不变,只转动头部与眼球跟随关注对象移动视线时,能够依次感知到的水平方向与垂直方向的空间范围,可以细分为单眼观察视野与双眼观察视野。转动头部的同时转动双眼观察周围环境是人类在日常生活中最习以为常的获取信息的方式。水平方向的最大观察视野可达160°-0°-160°,最佳观察视野为55°-0°-55°;垂直方向的最大观察视野为45°-0°-90°,最佳观察视野为25°-0°-65°。要获取超出观察视野范围的物体的视觉信息细节,就需要调整身体所处的位置,最大限度地调整视野。

可见,人眼的视野是有限的,而在有限的视野范围内,能够为视觉信息获取提供帮助的又只有覆盖最佳视野范围的良好视区。其他部分的视觉信息需要参与者调整视角才能有效觉察。如图3.4所示,S虚线代表人眼的正常基准视线,A区域为良好视区,B区域为有效视区,C区域为条件视区。根据不同视区在人类视觉观察中的信息提供能力的差异,虚拟现实视觉硬件技术作出了相应的模拟与优化,即加大影像呈现范围,尽可能扩大人类视野以完善条件视区,同时对良好视区着重表现,以节省有效视区的呈现效率与资源。

图3.4 人眼视区划分

2.视距

在数字影像范畴内,视距是指数字影像渲染的图像所能呈现的最远距离。获得越多的视觉信息,对于数字影像交互的参与者来说就越能在交互中掌握主动,而视距越短,越会使参与者因为受信息量的限制而处于被动的境地。

随着技术的发展,预渲染的数字影像在视距的技术层面上几乎不存在限制,因为预渲染可以调动渲染农场或云服务对数字影像中的每一个细节进行不受时间限制的精细渲染;而受到个人计算机在渲染能力上的限制,即时渲染的数字影像经历了漫长的技术积累阶段。以《寂静岭》为代表的即时渲染数字影像作品利用浓雾将距离参与者较远的景物“遮挡”起来,一方面减少了渲染的压力,另一方面营造了开阔空间的错觉,同时在对未知危险的表现上又极具张力,成为至今仍能获得认可的佳作。

虽然当下虚拟现实影像的渲染距离仍然受到个人计算机设备显卡等硬件的制约,但2016年已有1080Ti等多款显卡能够满足虚拟现实数字影像即时渲染的一般需求,因而由技术壁垒限制视距的问题已经得到基本解决。

3.清晰度与刷新频率

清晰度与刷新频率更多依赖于虚拟现实硬件的显示设备的性能。显示设备的显示原理是通过不同颜色像素点的组合,将图像通过发光显示器呈现出来,因此在单位屏幕面积内越多像素点参与画面的组成就越能够表现画面的细节并提高清晰度。以苹果公司的Retina显示技术为例,其原理就是把4倍于以往的像素点集成到与原来同一大小的屏幕里,以更高的分辨率来提高屏幕显示的细腻程度。

显卡将渲染出来的图像呈现在屏幕上就能够被看到,而图像要通过在显示屏上的不断刷新来呈现动态的影像,刷新频率就是显示屏幕上的图像每秒钟出现的次数。人眼对于较低刷新频率下图像的变化造成的闪烁有明显的感知。一般来说,人眼不易察觉高于75Hz的刷新频率,而高于80Hz的刷新频率人眼就无法察觉了,图像显示也更加稳定。在虚拟现实影像中,刷新频率更关系到参与者是否会因为画面闪烁与图像残留而感觉到眩晕。提高硬件的刷新频率是虚拟现实显示设备厂商与影像创作者必须解决的问题。

(二)交互方式与交互技术

从计算机技术诞生开始,使用者与计算机的交互方式就一直在不断变化。如前文所述,交互方式与交互技术经历着从机械交互趋向自然交互的发展过程。在这个过程中,有过几次从观念到技术的革命性飞跃,每一次飞跃都与系统、软件、交互内容等因素相关,将交互参与者从原本不便的交互方式中解脱出来,以更加合理与高效的方式与计算机进行交互。

交互方式的第一次飞跃是将键盘真正运用于交互。通过键盘输入字符来与计算机进行交互,使得交互成本较之最初的用穿孔纸带输入程序大大下降,同时效率的提高也为电子计算机在操作系统与应用软件方面的发展带来了必要的支持。

第二次飞跃堪称革命性的飞跃。1968年,第一个鼠标诞生于美国斯坦福大学。而在DOS系统被视窗系统替代之后,鼠标成了最重要的交互硬件,在不断的技术进步中与键盘一起成为当代电子计算机仍然无法完全被取代的交互输入硬件。

第三次飞跃源自1982年的多点触控屏幕技术。2005年苹果公司收购触控板和多点触控技术之后,以iPhone为代表的新一代交互方式成为新世纪的一股洪流,不仅颠覆了传统手机行业,而且使传统电子计算机行业也受到了震荡与影响。平板电脑的概念已经被快速接受并有成为下一代交互主流的趋势。

即将到来的第四次飞跃是基于自然交互的发展理念,以数据手套、运动捕捉、数据衣等交互设备为代表,旨在将交互参与者从机械性交互的桎梏中解脱出来,以更加贴近自然的交互方式完成与交互作品或系统的交互。其中涉及的技术不仅包括交互信息的输入,还有对现实世界三维图像的捕捉与处理等。

虚拟现实影像的交互在第四次飞跃的技术环境下不断探索实践。虚拟现实行业以开放和勇于试错的态度迎接着这次技术飞跃带来的挑战与机遇,而在尚未有定论与技术规范的条件下,探讨虚拟现实语境下数字影像的交互品质,对现阶段交互影像的创作能够起到一定的辅助作用。

二、Oculus Rift硬件平台作品分析

在经历了20世纪90年代的小高潮与随后的低谷之后,2016年被虚拟现实行业称为“VR元年”。这一次复兴的最初动力就来自最负盛名的Oculus。在2012年6月的E3游戏展上,Oculus的首席技术官约翰·卡马克(John Carmack)用公司创始人帕尔默·拉吉(Palmer Luckey)的原型头盔展示了自己的游戏《毁灭战士3重制版》,并于2个月后在Kickstarter上发布了原型头盔的改进版本——Oculus Rift Development Kit 1,简称DK1。DK1的硬件规格在现阶段已经过时,但在当时却因为技术整合上的合理性而将虚拟现实作品的魅力很好地展示出来,进而成功地传播了虚拟现实的理念,推动了虚拟现实行业的复兴浪潮。2014年7月,Oculus发布了Oculus Rift Development Kit 2,简称DK2。2016年3月,消费者版本Consumer Version 1正式发布,简称CV1。CV1结合DK1和DK2在开发者使用中反馈的问题与对虚拟现实行业的进一步理解,对硬件与交互方式做了改进。如表3.1所示,从DK1到CV1的硬件变化主要集中在视听效果及交互方式上。

表3.1 Oculus Rift历代硬件规格对比

在DK1所处的开发者实验阶段,硬件采用较大的显示屏幕并支持对90°视野内的画面进行渲染,而根据前文所述,虽然90°的视野范围能够覆盖最佳视区,却对有效视区与条件视区缺乏支持,可能会造成用望远镜看世界的感觉。产品称刷新频率支持60Hz,但实际影像的刷新频率无法时时都达到60Hz,偶尔有残影效果,影响观看体验。

在DK2所处的开发者调试阶段,显示屏幕不再一味求大,而是采用对比度、色域与视角都更胜一筹的OLED屏幕,并把刷新频率提高到75Hz,同时减少了延时,为更好的观看效果打下了基础。同时,配套新增的动作追踪部件除了能够在头盔内置陀螺仪等传感器之外,还新增了位置追踪功能,使参与者能够进行更丰富的交互。

最后发布的CV1是面向消费者的套装,在分析了前两代实验套件的经验和开发者反馈后,增加了标配的控制器和听觉设备。在交互控制器方面,Xbox手柄并没有太大的意义,毕竟DK2时期的Oculus作品已经将手柄控制纳入了Oculus的交互体系,CV1附带的手柄只是承认了这一交互方式的合理性而已。在听觉体验上,CV1在头盔上集成了耳机,虽然减少了参与者对耳机的选择,但一体化带来的便捷性更符合参与者的交互体验。

(一)Oculus Rift硬件平台交互方式

Oculus Rift本身对于交互方式的尝试是有限的。从DK1开始,设备就以视觉呈现作为最重要的技术。Oculus Rift利用头盔内置的三轴陀螺仪来检测包括姿势调整在内的或微小或大幅度的头部运动,通过头部的转动来实现头盔内显示器画面的跟随移动。换言之,头盔本身没有追踪眼球运动的设备,对参与者来说,只有通过转动头部来调整直接视野,而通过转动眼球来调整眼动视野是无效的。参与者通过转动头部既可以完成与数字影像作品最基础的交互,选择观看的内容,还能够利用后期加入的运动追踪摄像头进一步获取头盔的空间位置,解决了参与者在空间中移动头部位置而不改变姿势时的交互输入问题。

在手部交互方面,Oculus Rift前期主要采用属于机械交互范畴的键盘交互方式,而后期随着开发者利用硬件进行游戏开发的需求增加,越来越多的开发者使用更加符合游戏操作习惯的手柄作为主要交互方式。此外,多家第三方交互输入硬件公司也为Oculus Rift作品的开发提供了技术接口,支持开发者使用各种仍在研发或已经在市场上销售的设备作为Oculus Rift的交互输入硬件。

但是,Oculus Rift存在一个十分影响交互效果的问题,即头盔与电子计算机相连的能够提供电力与数据信息的线缆拖在参与者身后,会对站立并移动着的参与者参与数字影像的交互造成不便。结合安全性考虑,Oculus Rift的说明文档中特别标注了“请以坐姿使用本产品”。Oculus Rift的创始人拉吉也认为,取消这些线缆将是下一步硬件研究中非常必要的改进。这种改进将如同移动电话代替固定电话的革命,无线化之后,头盔的使用场景与用途才能被更大限度地拓宽。而要想实现头盔设备的无线化,在技术上有两条途径:一是使用超快速的无线信号将信息从电子计算机传输至头盔,二是将图像生成与渲染等功能整合进头盔,使之成为一体机。虽然在实验室中,前者已经可以实时传输1080P的视频信号,但从技术发展的长远角度看,后者是更加有效率、根本的解决方法,也会是行业的大趋势。

(二)作品分析

1.过山车类

过山车又称为云霄飞车,是能够将失重感等身体感觉与视觉冲击结合起来为参与者带来充满刺激的情感体验的传统项目。过山车的基本构造包括靠机械助力的爬升、无助力的滑落以及改变运动方向的倒转。从物理学角度看,过山车体现了能量守恒原理,利用重力和惯性使载具完成沿轨道运动。

为了弥补画面表现与创作经验不足等问题,不少虚拟现实概念影像都从过山车类作品入手,通过奇观化的强烈的视觉刺激,“欺骗”参与者的双眼,使他们产生自己确实在坐过山车的幻觉。

对于Oculus Rift来说,过山车类作品能够较好地将设备为参与者提供的控制视角功能体现出来。在参与过山车类作品的体验时,参与者无法也无须作出除了视角转换以外的交互,因为在生活中坐过山车时,参与者就是被绑缚于机器载具内跟随载具移动的。参与者能做的交互仅仅限于转动头部控制视角,以及大喊大叫或举起双手这类并不产生实际交互效果的动作。

过山车类作品可以分为三大类:仿真类、观赏类、扩展类。

仿真类过山车作品如UE4 Coaster、NoLimits 2等,这类作品以对过山车体验的真实感为最重要的表现目标,因此对于画面的质量、真实物理效果的模拟、引导参与者头部交互及其带来的视觉刺激有着极高的追求。为了更好的画面质量,在影像制作工具方面,选用Unreal Engine比Unity更合适。在模拟真实物理效果方面,一般通过引擎与人工的计算来实现。过山车项目体现了将重力势能转化为动能,再将动能转化为重力势能的循环过程。在这一循环过程中,会因为摩擦力等原因损失一部分动能转化为摩擦产生的热能,因此现实中的过山车载具如果在轨道中途没有额外的动力补充,那么载具最初被推上的高坡往往是在垂直高度上最高的一个,随后的高坡会次第降低高度,最终将机械能消耗殆尽,并用制动装置将载具停稳。而在最刺激的大回环阶段,现实中的过山车在设计时为了避免在完全倒置状态下产生危险,就需要更大的动力使得载具进入大回环时保持相当的高速,以较大的离心力保证载具被压在轨道上而不至于掉下来。因此,大回环的设计往往是水滴形,以此减少乘坐者在进入回环时感受到的作用力与不适感。但在虚拟现实状态下,参与者并不是身处真正的轨道与载具中,并不存在从空中掉落的危险,因此数字影像的创作手段使得对过山车影像的创作成为体现“虚拟的真实”这一理念的有力佐证。在UE4 Coaster与NoLimits 2中,有过真实坐过山车经验的参与者不会在体验过程中质疑某一段大回环的进入速度不足以维持其在空中倒置阶段离心力的问题,原理上的合理与细节上的可控,使得过山车影像足够真实也足够刺激。而在引导参与者进行头部交互的方面,多数作品考虑到在高速阶段参与者被极具真实感的画面吸引而无暇旁顾,往往将引导信息放置于平稳的爬升阶段。此阶段既是影像的开始,又因为模拟较慢的爬升速度而产生了大量“等待时间”。参与者在这一等待刺激的阶段可以通过转头了解自身所处环境,而影像也在此时提供了最多的视觉信息细节,包括过山车站的建筑细节、光影细节,并以天空中飞过的禽鸟、雄鹰甚至恐龙来为参与者营造极具真实感的虚拟影像。这些影像进一步为参与者建构了虚拟世界的空间感与生命感,更加凸显了后续影像的冲击力。英国主题乐园Alton Towers与美国游乐场连锁集团Six Flags已经将仿真类过山车影像与可提供动态模拟的载具相结合,以便为参与者提供更多刺激的体验。体验内容也不仅是传统的露天过山车,而是将以往利用声光电设施与黑暗空间营造的宇宙漫游效果用数字影像更加细腻地表现出来,以达到前所未有的奇观化的真实体验效果。

在观赏类过山车影像中,过山车的概念更趋近于固定轨道的游览,如Lava Inc.,其空间构建于大厦内部的地下空间,在多个相连的房间中,地板被岩浆代替,参与者沿着轨道前进可以获得现实中不可能获得的体验。区别于仿真类过山车中参与者无法控制载具的设计,Lava Inc.扩展了参与者使用Oculus Rift与影像的交互。在蓝色轨道的部分,参与者可以通过身体带动头部前倾使载具加速,通过后仰使载具减速,甚至可以将载具完全停下,细细观察周围景象。当载具进入绿色轨道时,游戏将遵循创作者的设计,以预先设计好的速度通过轨道区域——这些区域往往是能够为参与者提供刺激体验的弯道。绿色轨道的设计使得Lava Inc.兼顾了参与者的自由度与影像刺激的核心体验。

扩展类影像以轨道射击游戏Roller Force为代表。Oculus Rift在DK1和DK2版本中,并未标配双手的交互设备,只依靠头部动作的交互对它来说是极大的限制,而对于键盘鼠标的依赖则对虚拟现实的体验造成不便——参与者并不能通过头盔显示器看到键盘上按键的位置。随之而来的解决方案是开发者引入传统意义上的游戏手柄。CV1在发售初期标配的控制器是无线的Xbox手柄,后期可能会提供Touch作为定位运动控制器,因此在Oculus Rift硬件平台下,双手的引入使得影像有了更多的交互可能。Roller Force构建了一个科幻背景的世界,身处外星的参与者在启动过山车之后便开始通过转头控制自己与武器的面对方向,击杀沿途遇到的敌人与障碍物。在这一过程中,参与者发射的绚丽的子弹与击破目标之后爆炸带来的奇丽的视觉效果为传统过山车游戏带来了新的体验。

2.《变化的丰收》

虚拟现实技术在从影像的“临场感”向“在场感”推进的过程中,潜移默化地改变着人类对于影像的感受与认知。在这个过程中,与影像相关的行业也不可避免受到影响。在虚拟现实技术的支持下,未来新闻报道的叙事思路与观念较之传统新闻也发生了颠覆性的变化。近年来,国内外新闻业都在虚拟现实新闻报道上作出了各种尝试,其中美国甘内特(Gannett)集团旗下的《得梅因纪事报》(Des Moines Register)的解释性报道《变化的丰收》(Harvest of Change[9],是极具代表性的一部作品。

《变化的丰收》通过对四家位于美国中北部农业大州艾奥瓦的家庭农场各自的历史与现状的报道,展现了美国传统农业中人口组成、科学技术等在工业化、城市化、全球化进程中发生的结构性变化。整个报道采取“故事版块”与“体验版块”结合的方式。在故事版块中,“周一”到“周五”的五个章节分别对应总述、人口老龄化与科技进步、少数族裔与外来移民、全球化趋势、气候变化的影响等问题,用文字、图片、视频、音频、数据可视化图表、交互地图等展现了报道对象在时间、空间等多维度的变化。在虚拟农场中,参与者能够在视觉与听觉上获得身临其境的效果:身处玉米秆高过自身的玉米地中,抬头可见飞鸟,耳边是远处收割机的轰鸣,这使得参与者成了农场的一部分,仿佛自己就是一名美国农民。

在体验版块中,参与者通过Oculus Rift头盔转换视角,通过操作键盘与鼠标在农场中行走和探索。在虚拟农场的探索中,参与者可以看到不同的提示标志,点击标志后可以通过悬浮在眼前的窗口了解农场的具体信息。同时还有一些隐藏的图片作为具有任务性质的“寻宝”的目标,引导参与者发现这些被隐藏的重要信息,从而将新闻报道需要呈现的信息完整地拼凑出来。这一设计在本质上是游戏化的尝试。在完全自由的交互设计下,参与者反而会因为过于自由而无所适从,适当的“任务”提示能够引导参与者更快地融入虚拟世界,而通过自己的探索获取信息的过程也使得参与者对信息的价值更加重视。从信息传达的角度来说,其效果比传统新闻模式的灌输更加有吸引力,也更加令人印象深刻

(三)Virtuix Omni硬件的附加支持

如前文作品分析中提到的,Oculus Rift在手部交互输入上的缺失,导致开发者需要根据作品的需求来寻找更加人性化的交互方式作为补充,这使得Oculus Rift变得更加开放和充满可能性。

在众多为虚拟现实头盔提供辅助交互输入的硬件产品中,Virtuix Omni是扩展体验较好的一个。Virtuix Omni在功能上可以被称为一台“全向跑步机”,不仅能够通过参与者在它上面的脚步移动获取速度与距离的数据,还可以根据配套的鞋监测收集参与者脚部的朝向与蹬踩设备的方位获取移动方向的信息,使参与者的移动成为可控的矢量数据,进而在影像中完成空间位置变化的交互。Virtuix Omni本身所占空间小于3平方米,其中参与者可移动的范围只有1平方米左右。为了避免参与者在移动中从跑步机上掉落,Virtuix Omni在参与者腰部的位置增加了安全带,使参与者在跑步机上只能不断“滑步”,而不会真正离开跑步机,同时腰带还可以获取参与者是否进行了跳跃等相关信息。在技术原理上,Virtuix Omni对应的是传统键盘按键,因此能够支持Oculus Rift的相关作品。在配合数据枪的情况下,参与者可以极大限度地以自然交互的方式完成射击类虚拟现实交互影像的体验。

虚拟现实的真实感体验是由多感官共同创造的,从Oculus Rift倡导的坐姿变为站姿进而通过真正移动双腿实现在虚拟世界中的空间移动,这个变化无疑更接近虚拟现实体验的终极概念。虽然Virtuix Omni尚不能做到与自然交互完全无异的体验,但其思路与解决方案对虚拟现实技术的发展起到了推动作用。

三、Gear VR硬件平台作品分析

Gear VR是三星公司设计开发的虚拟现实头戴式显示器框架。作为“创新者版”的初代产品,Gear VR需要用GALAXY Note 4手机作为显示屏和计算核心,因此它并不是消费级的主流产品,而是最大化整合产品线的选择。新一代的Gear VR仍然只支持Galaxy Note 5、Galaxy S6、S7以及Galaxy Edge系列高端产品,但售价合理,对三星手机的固有用户来说很有吸引力。

虽然也是以头戴式显示器为产品形态,但由于Gear VR使用内置手机的方法进行数字影像与交互的处理,一方面受到手机处理性能的制约,不能提供更大体量和更高质量的即时渲染数字影像体验;另一方面因为摆脱了脑后数据和电力线缆的桎梏而获得了更好的移动性能与更便捷的体验场景。

(一)Gear VR硬件平台交互方式

在Gear VR的使用中,参与者在安装好手机之后,无须再连接头盔以外的硬件设备。对于头部运动的监测与交互反馈,Gear VR与其他头盔类产品类似,都是依靠手机内置的陀螺仪来完成的。考虑到手机自身运算能力可以支持的作品形态与体量,Gear VR在头盔上增加了四个对手机进行操作的控件。除了调整音量与镜头距离的两个控件之外,back button能够完成返回上级界面等操作,touch pad则是在影像交互时能够真正起作用的控件。

touch pad位于参与者佩戴头盔时的右手侧面,是一个十字方向的方形控制区,可以识别手指的两个交互动作:点按与滑动。与笔记本电脑常见的滑动方式不同,它的滑动需要在完成滑动之后按下不动才会执行。这就使得参与者交互行为的反馈会出现滞后,参与者需要一定时间才能适应这种非自然的交互方式。

(二)作品分析:《山村里的幼儿园

《山村里的幼儿园》是财新传媒、中国发展研究基金会与联合国千年计划共同出品的中国首部虚拟现实纪录片。财新传媒视频团队深入实践“纪录片行动研究创作”的方法,在贵州松桃、湖南古丈等地采用360°全景拍摄的技术,对在山村工作的志愿者教师、留守儿童及其外出务工的父母进行拍摄。全片在不到10分钟的时间内,呈现了山村留守儿童的生存状态,用虚拟现实技术提供的极富感染力的方式使参与者仿佛身临其境,更大限度地激发了参与者的同理心,倡导人们思考社会城市化进程中面临的诸多问题。

作为一部纪录片,《山村里的幼儿园》使用了长镜头与固定机位的拍摄方法,仍然强调导演对影像的决定性作用。在有限的时间内,纪录片选取了最符合影像表达主题的片段,利用黑屏进行镜头切换,并通过能够指示方位的立体声音,引导参与者通过转头实现与影像的交互——选择呈现画面以完成影像体验。

受限于影像本身的纪录片属性、硬件平台能力与实验性,《山村里的幼儿园》并没有在交互性方面作出更多尝试。据观影后受访者的反馈,影像带给他们更多的是充满感动的体验与身临其境的在场感。

(三)Leap Motion硬件的附加支持

在Gear VR新一代升级产品中,除了对影像观看视野进行扩展之外,最具意义的改进是将数据接口改成了USB-C。由于USB-C接口的数据可逆性,Gear VR可以通过接口连接除手机之外的外部设备,实现新的数据通信。而在众多选择中,使用Leap Motion实现手势与影像的交互,是Gear VR硬件平台最有意义的扩展。

Leap Motion是一款针对手部动作进行动作捕捉的体感控制设备。简单到玩切水果的游戏,复杂到空间建模,Leap Motion都可以仅通过手势实现与计算机的交互。Oculus Rift硬件平台已经有多款利用Leap Motion进行交互的作品,但与Oculus Rift的结合使用并不能凸显Leap Motion在体积轻量化方面的优势。Leap Motion控制器体积小到足以附加在Gear VR头盔外部而不会对头盔重量产生太大影响,与头盔相连的较短的USB-C数据线也不会降低Gear VR的移动性。Leap Motion极大地拓展了Gear VR的交互性,同时手势交互也作为更自然的交互方式,使Gear VR硬件平台进一步打破了技术上的局限,或可凭借提高手机渲染功能来创建头盔显示设备无线化的技术标准。

四、PSVR硬件平台作品分析

PSVR全称为PlayStation Virtual Reality,是索尼互动娱乐股份有限公司(Sony Interactive Entertainment)推出的虚拟现实头盔显示器。PSVR并不是独立的虚拟现实设备,而是对PS4(PlayStation4)运行的虚拟现实内容进行体验与交互的扩展设备。与PS4作为家庭娱乐平台的定位相符,PSVR最大的应用市场也与电子游戏对应。PSVR极大地利用了PS家族已有的硬件设备,如PS Eye摄像头和PS Move控制器,拥有PS4的玩家只需加配一个头盔就能获得虚拟现实体验,这对于PS的硬核玩家来说并不是太大的负担。

为了达到最优化的游戏体验效果,PSVR头盔显示器支持三种不同刷新频率的显示模式:原生120Hz要求开发者对作品进行最大限度的优化,往往很难实现;原生90Hz是多数开发者能够达到的优化水准,也是与Oculus Rift和HTC vive相同的刷新频率,能够为游戏的跨平台移植提供最大的便利;还有一种则是通过异步重投影技术AR(Asynchronous Reprojection)将原生60Hz的刷新频率转换为120Hz,如果能有效规避位置改变抖动、运动物体抖动与镜面反射抖动等问题,这种刷新频率将为开发者在作品优化上节约大量时间。

PSVR没有标配耳机,也没有沿用骨传声技术进行声音的输出,玩家可以根据需要选择用耳机或直接用电视机扬声器作为听觉体验方式。但PSVR仍然需要一根线缆来完成图像处理器与PS4主机的连接,同时在摄像头进行空间定位时,需要头盔显示器与摄像头保持2米左右的识别距离,加之摄像头对识别高度有严苛的限制,因此PSVR在空间运动性上受到很大制约。

(一)PSVR硬件平台交互方式

基于PS4的硬件属性决定了PSVR的交互方式依赖于DualShock4手柄或PS Move控制器。作为电子游戏玩家最熟悉的交互工具,DualShock4手柄本身已经有成熟的使用体系,包括左手拇指控制上下左右移动,右手拇指在圈、叉、三角、方块(○、×、△、□)四键中选择键位控制角色肢体动作,同时双手食指与中指作为辅助按键进行组合键交互等。区别于电子计算机键盘键位众多难以靠手指触感识别与记忆的问题,手柄的有限键位为玩家快速熟悉与记忆键位,进而实现不看控制器也能准确按键提供了可能。DualShock4手柄还可以根据玩家按键时间的长短区分交互指令,实现了交互输入指令数量的成倍扩展。但这些指令仍然需要玩家花费时间记忆与熟悉,因此操作熟练与否对游戏交互的影响是十分显著的。DualShock4手柄非常适合PS4平台操作复杂的硬核游戏,因为硬核玩家的手柄操作经验可以在虚拟现实作品中得以延续,并不会对他们造成不便。但对于初次使用手柄作为交互设备的新手而言,记忆与熟悉的时间是必要的学习成本。

而索尼对于体感交互技术的研究已经超过十年,在利用3D摄像头、超声波、电磁波等多种技术进行实践应用后,仍回归到利用PS Move控制器配合PS Eye摄像头进行交互的传统思路。PS Move内的陀螺仪可以识别控制器的微小动作,加之摄像头能定位其头部发光球的位置,使得体感操作得以实现。为了有更好的沉浸感体验,PSVR的多款适合调动身体交互的游戏都建议玩家使用PS Move代替DualShock4手柄。因为PS Move的原理是通过控制器顶端发光球进行定位,而接收发光球位置信息的却只有设置于电视屏幕附近的一个双镜头摄像头PS Eye,这就造成PS Move在使用过程中可能因为被遮挡而出现信号死角,降低游戏的真实感体验。

(二)作品分析

1.《云中行走》

作为电影《云中行走》的同步体验游戏,索尼同期推出了同名的体验Demo《云中行走》。无论是电影借虚拟现实技术的概念进行宣传,还是索尼借电影的好评进行虚拟现实硬件的推广,结果都是可喜的。《云中行走》的电影与交互影像都是围绕高空走钢丝的核心情节展开的,而高空走钢丝其实就是虚拟现实影像作品中,除了过山车类作品以外的又一交互体验作品大类——虚拟坑的变体。

虚拟坑可以算是伴随和见证虚拟现实技术发展的代表作品。其核心是在虚拟现实头盔显示器中呈现一个虚拟环境:一个深不见底的坑,以及横跨其上的窄木板。影像的参与者需要沿着木板走过深坑到达对面,而很多参与者在明知影像是虚拟出来的数字影像的情况下,仍然不敢踏出一步。敢于前进的参与者每一步也都迈得小心翼翼,屏住呼吸竭力维持平衡。当行差踏错跌入深坑时,参与者会深呼吸、大叫并调整身体的姿势来尽力减少冲击带来的伤害。面对虚拟现实对感官的欺骗,人类的意识是无法阻挡的。

《云中行走》作为体现PSVR图像机能的交互影像在PSVR头盔严密的视觉环境隔绝条件下,为虚拟坑类影像带来了全新的高质量体验。部分体验现场为了创造更真实的沉浸感,甚至利用电风扇模拟高空气流的扰动。参与者只要戴上头盔,在影像构建的世界中走过距离并不长的钢丝,就能有真实的行走钢丝体验。在《云中行走》体验的反馈中,参与者对于真实感的评价是极高的。而对于影像交互过程中故意作出的第一人称视角的摇晃镜头,参与者甚至“顿时感觉自己的魂儿都晃没了”。

2.《生化危机7》

随着虚拟现实技术的爆发,不少优秀的游戏作品在原先版本的基础上进行了虚拟现实设备的适配,以使玩家在虚拟现实环境下获得更好的游戏体验。但针对虚拟现实的交互设计和视觉表现的缺乏使得这些大作的虚拟现实版本反而不如原先版本有魅力,或者说虚拟现实影像仍缺少具有代表性的作品。

《生化危机》系列是日本CAPCON公司最负盛名的单机游戏,自1996年起陆续推出了9款正式作品,同时在小说、漫画、电影等泛娱乐行业均有成果,是恐怖冒险游戏类型最优秀的系列作品之一。游戏以丧尸等恐怖元素为核心,采用过肩的第三人称镜头作为标志性的画面构成方式,将玩家置于被丧尸围困的无助境地,玩家只有杀出重围才能获救。

与其他作品推出虚拟现实体验Demo或简单重置虚拟现实版本不同,《生化危机7》在创作过程中就并行开发虚拟现实版本与普通版本,甚至为了更好的视觉沉浸感而将标志性的过肩镜头改为了第一人称视角镜头。

在交互方式上,《生化危机7》没有对玩家所处空间位置进行判定,即不需要玩家在真实空间中移动,而主要依赖DualShock4手柄实现角色移动。但这并不代表玩家戴着头盔就只有旋转转换视角的功能,游戏对于玩家在坐姿状态下前后左右移动头部位置的监测是很到位的。比如在游戏之初的森林场景,玩家通过手柄控制角色蹲下前行,而在障碍物树枝下方探头并仰面向上,就能观察到血液沿着树枝滴落的景象,其结合身体姿态带来的真实感极强。

游戏中的其他主要交互操作仍遵循该系列的一贯传统,因此对于老玩家来说无须额外的学习成本。但在装备刀、枪械等武器道具时,如果是PS Move控制器或许会带来更加接近自然交互的沉浸体验。而且用PS Move作为控制器可以准确描绘玩家双手的位置,而不至于出现游戏中玩家低头只能看见自己两只半截的手臂飘浮在空中的违和感。

需要注意的是,与《生化危机7》的Demo相比,正式版游戏弱化了Demo版本中一些过于恐怖的体验桥段,使得游戏整体的恐怖感并没有因为虚拟现实技术的高度沉浸与真实感而令玩家无法接受。

五、HTC vive硬件平台作品分析

HTC vive是宏达国际电子股份有限公司(简称HTC)与维尔福软件公司(Valve Software,简称Valve)合作开发的虚拟现实头戴式显示器,与Oculus Rift和PSVR一起被认为是引领当代虚拟现实体验发展的三大主流硬件平台。HTC vive在Valve原生的Steam平台获得了技术支持,使得HTC vive软硬件生态圈的完整程度不亚于已经在数字娱乐行业积累多年的索尼互动娱乐股份有限公司。

HTC vive全套设备包括一个头戴式显示器、两个手持控制器、两个用于追踪显示器与控制器的定位装置——Lighthouse。头戴式显示器采用OLED屏幕,双眼合并分辨率为2160×1200,视角为110°,刷新频率为90Hz,头盔后部有电力与数据线缆与电子计算机相连。手持控制器前端是一个圆形的光敏传感器环,环中分布着光敏传感器阵列,用于接收Lighthouse发射的激光并通过角度判断位置。Lighthouse具有六自由度跟踪的功能,能同时对头盔显示器和手持控制器进行追踪并保持极低的延迟与极高的精确度,而且在系统内追踪对象的数量不会像以PSVR为代表的mark点追踪方式那样受到mark点总数的限制,理论上可以非常方便地支持多人游戏。这使得HTC vive在低成本的前提下,拥有了当下室内定位系统中性能最好的技术支持。

(一)HTC vive硬件平台交互方式

得益于Lighthouse带来的精确定位与低延迟,HTC vive允许参与者在Lighthouse定位的空间内自由移动。头戴式显示器可以根据参与者头部位置与方向的变化改变视角,但头盔后部的线缆会在移动过程中因为参与者面对方向的变化而产生缠绕,从而影响沉浸感。

通过手持控制器,Steam平台可以识别并对应参与者的左右手。在交互开始之前,参与者需要用手持控制器进行地面高度定位与空间划定。在此后的交互体验中,每当参与者移动到所划定边界附近,虚拟世界中便会出现虚拟墙,提示参与者已经到达空间边缘,以保证参与者在真实世界中的行动安全。

手持控制器要求参与者采用抓握姿势,拇指在控制器正面的三个控件间移动操作,食指用于操作控制器斜前方的“扳机”控件。正面的三个控件中,上下两个是按压式控件,主要用于如呼出菜单等影像之外的交互,中间的圆盘控件则具备触摸功能,参与者用拇指在其上轻移可以实现不同效果的交互功能。

(二)作品分析

1.《蔚蓝》

《蔚蓝》(The Blu)是Wevr公司为HTC vive开发的虚拟现实影像作品。参与者可以在浅海区、沉船中与深海区三个不同场景中感受海底世界。《蔚蓝》用奇妙的海底世界很好地展示了HTC vive画面的表现机能,参与者身边的鱼群与水母,擦身而过的抹香鲸以及发光的灯笼鱼,使参与者能够获得很好的视觉上的沉浸感。

参与者通过在现实空间的行走与挥动手持控制器来实现与鱼群的交互,鱼群会因为参与者的动作分散或聚集。而最令参与者印象深刻的是抹香鲸庞大的躯体与参与者自身渺小的对比,以及抹香鲸在参与者身边慢慢眨动眼睛带来的感动。而使用手持控制器作为手电照亮漆黑的深海的交互很好地利用了参与者手部真实触感与虚拟世界物品的对应,加强了参与者在感官上对虚拟世界的认同。

总体来说,作为以奇观化视觉为核心的影像作品,《蔚蓝》在交互上的实践很成功。作品有效利用了HTC vive硬件平台,实现了头部移动、身体移动、手持控制器操作等各种交互方式,并且每一种交互方式都能够与影像本身的需求相吻合,在不长的影像时间内为参与者创造了极佳的虚拟现实影像体验。

2.《实验室》

《实验室》(The Lab)是Valve公司开发的一款HTC vive作品,包括8个不同场景与主题。因为是Valve官方为HTC vive量身定做的作品,极佳的体验使《实验室》在Steam平台上好评如潮,被称为HTC vive硬件平台作品的范本。作品将世界观建立在游戏《传送门》的基础上,参与者进入实验室后可以通过手持控制器在虚拟的8个场景之间进行空间跳跃的选择,使得处于站立状态的参与者能够在虚拟空间中很好地移动。手持控制器还肩负着通过按住扳机键拾取代表不同交互的水晶球贴近参与者头部进行空间转换的任务。这种既奇妙又符合世界观设定的空间切换方法极具创新性并且毫无技术难度。

此外,《实验室》还在8个独立场景中设计了不同的交互体验,它们分别是[10]

Slingshot:在虚拟世界中进行枪械交互的游戏。参与者通过手持控制器的位置移动与按动扳机键进行瞄准与射击,破坏场景中的一切敌人与设施。

Longbow:参与者站在城门上,摘弓、抽箭、认扣、搭弦,通过左右手配合改变位置以及按动扳机键,以非常贴近自然交互的方式进行弓箭的瞄准与击发,抵抗部落敌人的攻击。

Xortex:飞行模拟游戏。参与者在虚拟空间中控制无人机与敌人的战机进行激战,手持控制器主要用来控制无人机的方向与开火。

Postcards:参与者置身于崇山峻岭之中,通过头戴式显示器感受当地的风貌,转动头部和移动身体都能够控制虚拟空间的呈现内容。参与者能够通过手持控制器从地上捡起木棍并扔出去,跟随在参与者身边的机器狗会冲过去把木棍捡回来。参与者还可以蹲下身体用手持控制器在机器狗身上移动,给它挠痒,而手持控制器会产生相应的振动反馈。

Human Medical Scan:该场景展示了虚拟现实数字影像的另一种应用——建立现实中难以实现的精细模型来探索人体。其中的人体信息来源于真实的断层扫描数据,参与者能够在其中通过手持控制器选择要细致观看研究的部分。

Solar System:该场景体现了虚拟现实数字影像在奇观化影像上的创作优势。参与者可以在宇宙中通过手持控制器的空间跳跃功能实现移动,按动扳机键拾取太阳系中正在沿轨道运行的各大行星,并看到相关的信息与介绍,之后再松开扳机键可以将星球扔回轨道。

Robot Repair:参与者通过使用手持控制器定位并按动扳机键实现修复机器人的交互。这部分交互会不断重复与加强参与者对手持控制器按键的操作,而时间限制能体现精细定位与交互的重要性。

Secret Shop:魔法世界观之下的室内交互场景。参与者可以在魔法商店中浏览物品,通过选择道具实现自身大小的变化或依靠其他魔法触发不同的交互效果。

《实验室》的8个交互场景在视觉风格、交互体验上各有不同,为HTC vive硬件平台数字影像的交互创作提供了大量可借鉴参考的范本,也为虚拟现实语境下数字影像的交互品质研究提供了丰富的素材。