Apple获得一项全新专利,这套技术用于改善混合现实场景里用户对手部的观察与交互效果,专门应对光照条件变差之后产生的识别难题,瞄准了Vision Pro这类依托摄像头实现透视的头显长期存在的技术痛点,也就是当相机无法稳定把手部轮廓和背景环境区分开时,真实手部和虚拟对象之间的空间层级关系会失去真实感,交互体验随之受损。
Apple没有选择简单提亮相机画面的思路,而是搭建一套智能调控系统,能够根据现场光照条件动态调整手部画面的处理与渲染方案,在光线昏暗的场景下,系统可以不再输出相机采集到的原始手部影像,转而使用计算机生成的手部模型进行替代,以此维持连贯统一的混合现实交互体验。
这项专利的优化核心围绕手部抠图算法展开,该算法负责在相机画面里识别属于手部的像素区域,并将手部区域和背景画面相互分离,混合现实系统依靠这个结果,精准建立真实手部和虚拟内容之间的前后层级关系,当用户伸手靠近悬浮的应用窗口时,系统就可以按照手部的实际位置,正确渲染出手部处于窗口前方或是后方的画面效果,这套机制在光照充足的环境里可以稳定运行,但在弱光环境中,相机很难清晰捕捉手部边缘,画面会出现各类渲染瑕疵,打破虚实之间的视觉逻辑。
Apple的方案会持续评估场景亮度,在图像识别质量开始下滑之前就切换处理逻辑,避免识别失效之后才被动补救。
整套系统采用三级调控逻辑完成暗光适配,可以结合相机画面、环境光传感器以及其他传感数据来判断光照水平,光线正常时,头显会持续运行主手部抠图模型,识别用户手部并让手部影像和虚拟内容自然融合。
当环境亮度逐步下降,系统不会只依靠全局亮度数值做判断,而是借助手部追踪结果锁定每一只手周边的局部画面区域,单独评估手部区域的光照是否还能够支撑精准识别,这种局部判断逻辑十分关键,因为很多场景下整个房间整体偏暗,但手部刚好被近处光源照亮,依旧可以继续沿用常规识别流程。
如果手部区域的亮度跌破阈值,系统就会停用传统抠图流程,切换到备选处理方案,其中一种实现路径是启用专门面向弱光场景训练的手部抠图模型,这类模型会消耗更多算力,或是生成精度略低的手部轮廓,但可以在光照条件更苛刻的环境里继续沿用原有手部渲染方式,系统还设置了多组独立阈值,光照回升之后自动切回常规模式,在不同工作状态之间平滑过渡。
专利里最受关注的方案,是用虚拟手部模型替代可信度不足的相机原始画面,系统依托手指关节坐标、手部位置、朝向与深度等追踪信息,生成三维手部网格,当光照不足以完成精准像素提取时,头显会在和真实手部大致重合的位置渲染这套虚拟模型。
专利附图演示了这套渲染逻辑,虚拟手部能够根据三维坐标,正确显示在虚拟界面元素的前方或者后方,进一步的设计还支持生成个性化虚拟手部,在首次录入阶段,头显采集用户手部的轮廓形态与纹理特征,后续暗光场景渲染虚拟手部时,就可以调用这份存档数据,生成贴合用户本人手部样貌的模型,而不是千篇一律的通用数字手部。
系统还会通过重投影手部网格,补偿手部追踪和屏幕渲染之间的帧率差异,在手部持续移动的过程中,保证虚拟手部和真实动作对齐。
除此之外Apple还提供了另一套方案,不需要完全替换手部影像,系统依托追踪信息勾勒出手部的几何边界,再动态调整这片区域的透明度,让底层相机采集的手部画面能够透过虚拟界面被用户看见,即便逐像素抠图已经失去精度,用户依旧可以看到自己真实的手,这套几何轮廓也会结合手部预估深度进行定位,守住实体手部和数字内容之间的空间逻辑。
这项设计的核心创新,是把手部追踪和手部抠图两个模块相互解耦,就算相机无法输出清晰可靠的手部轮廓,头显依旧可以依靠独立追踪模块判断出手部的位置,这一分离设计也是整套专利的核心思路。
尽管这份专利描述了这项技术在多种电子设备上的落地潜力,最直接的应用场景,依旧是搭载摄像头透视、依靠手部交互的混合现实头显,放到Vision Pro上,这项技术能够让用户在明亮区域和暗光房间之间切换使用时,手部画面的展示效果保持稳定,同时系统可以在光照不足以得到可靠识别结果的时候,关闭算力开销巨大的图像抠图流程,减少不必要的运算负载。
这项专利并不代表头显能够在完全无光的环境下完整运行手部追踪,所有替代渲染方案依旧需要依靠追踪模块采集到充足数据,估算手部位置与运动状态,但清晰展现了Apple的研发方向,也就是在计算机视觉算法受环境制约时,依靠自适应图像处理、独立手部追踪以及个性化虚拟手部渲染相结合的方式,拓宽头显稳定工作的光照区间,让后续Vision Pro产品,在更多样的光线环境里,都能够维持连贯自然、逻辑统一的混合现实交互画面。
