当我们创建Niantic时,我们为公司的使命设立了三个核心价值:探索、成长和真实世界的社交互动。但是,在最疯狂的梦想中,我们没想到我们的AR体验会给我们的玩家和他们所生活的社区带来积极的影响。我们很幸运能够将对技术和游戏的热情结合起来,为所有年龄段的人创造创新型的体验。

今天,我们将展示我们一直在研发的技术:Niantic真实世界平台。这是我们第一次公开这个平台,我相信它将让我们了解AR对未来世界的重要性,并进一步推动我们所开创的未来体验。

在过去一年中,我们对一些专注于AR地图和计算机视觉的创业公司进行了战略投资。 最近,我们宣布收购Escher Reality,他们将为我们的“地球AR计划”提供帮助。此外,我们还收购了计算机视觉和机器学习公司Matrix Mill,并建立了我们的第一个伦敦工作室。通过这些团队的协调,我们已经建立起了初期的Niantic真实世界平台,并构想出了它未来的样子。

我们将Niantic真实世界平台视为连接数字和物理世界的操作系统。 基于我们迄今为止已获得的多人协作经验,我们正在突破地理空间技术的界限,去创建一个互补的和互动的现实世界层,并坚持为用户带来引人入胜的体验。

现实建模

Niantic真实世界平台提升了计算机看待世界的能力,从以道路和汽车为中心的模型转变为以人为中心的世界。对以人为本的公园,小径,人行道和其他可公开访问的空间进行建模需要大量计算。该技术必须能够理解这些细微的细节,并专门数字化这些地方。然后在交互式3D空间中对其进行建模,使计算机可以快速轻松地读取。

我们必须应对将这种复杂技术应用于功率受限的移动设备的挑战。高质量的游戏需要一个非常准确的“实时”模型,以适应世界的动态。当用户周围的环境发生变化时,或者当人们移动自己或他人的手机时,我们还需要完成调整模型的艰巨任务。

将各个移动视角紧密得结合在一起是一项挑战,但我们专注于通过机器学习和计算机视觉的融合来解决它,所有这些都建立在可靠和可扩展的基础架构之上。

理解现实

高级AR不仅需要了解世界的面貌,还需要理解它的含义:在给定空间中存在哪些对象,这些对象正在做什么,以及它们如何相互关联(如果存在的话)。Niantic真实世界平台正朝着计算机视觉认知的方向发展,使AR对象以独特的方式理解现实世界对象并与之交互。比如,在现实世界对象面前停留,经过它们,或者与它们融合为一体。

在上面的GIF中,我们说明了我们的计算机视觉算法如何识别对象,并通过可量化的置信度得分来总结它们。例如,当在桌椅上训练我们的计算机视觉时,它将识别它们并将它们放在更广阔的空间内。最终,这会允许将这些对象添加到AR对象库中。对象库越大,我们的理解能力就越强,从而真实世界平台上的AR体验就越丰富多彩。

一旦我们理解了我们周围世界的“意义”,我们可以分层的可能性是无限的。我们正处于探索创意,测试和创建Demo的早期阶段。例如,想象一下,如果我们的平台能够识别花的存在并将其置于现实世界中,那么它就会知道要有一只大黄蜂。或者,如果AR可以看到湖泊并将其置于现实世界中,它就会知道要有一只鸭子。

识别对象不仅限于理解它们是什么,还要知道它们的位置。目前AR的一个关键限制是AR对象不能在3D空间中有意义地交互。理想情况下,AR对象应该能够融入我们的现实世界,在现实世界对象的后面和周围无缝移动。

我们在伦敦的新团队已经开始专注于理解现实世界的研究。利用计算机视觉和深度学习,他们正在研发能够理解3D空间的技术,从而实现比目前更可行的AR交互方式。

在Pokémon GO中,你可以看到皮卡丘在现实世界中穿过和绕过不同的物体,躲开我们的脚并藏在花盆后面。它是我们对融入周围环境技术的一个概念验证,这让我们对AR的未来感到兴奋。

共享现实

我们特别关注AR中的创新,这些创新服务于Niantic的核心使命和价值观。今天,我们正在展示创新的跨平台增强现实技术,以促进高性能的共享增强现实体验。

多人游戏需要Niantic的真实世界平台的组件在多个用户之间协同工作。当您添加多个用户和多个不同想法时,这些组件必须以特定方式工作,从而创建在视觉上丰富多彩的共享体验。在我们的研究中,我们发现最大的障碍之一是延迟:如果延迟问题不能被解决,创建共享现实体验几乎是不可能的。

为了应对这一挑战,我们开发了专有的低延迟AR网络技术。借助此解决方案,我们能够构建统一的跨平台解决方案,通过单一的代码库实现共享AR体验。虽然我们首先将这项技术用于游戏,但很明显它将来会应用在各个领域。我们希望其他人能够在Niantic真实世界平台上,以我们尚未想象到的方式连接物理世界和数字世界,从而创造出更多精彩的AR创新体验!