苹果该项新专利名为“使用基于内容的帧搜索实现视频传输”,可以解决用户在FaceTime过程中视频通过出现帧率过低或丢帧的现象。目前iPhone或iPad用户在低带宽网络使用FaceTime通话时经常遇到不流畅的丢帧问题。
目前,视频通信技术在很多方面由于受到了现有无线移动蜂窝数据的带宽限制,在某些情况下,像苹果FaceTime由于丢帧、屏幕分辨率过低或音频质量太差而导致无法使用。
该项专利详细介绍了一种可以通过之前传输的视频帧画面和“视频帧内容信息”直接被应用到视频通话中来减少两台设备之间数据传送量的方法。这种方法可以从一个给定的关联视频帧中产生一组参数或系数。例如可以通过物体的标志点或面部特征点、定位和规模等系数来来跟踪和储存视频传输内容。同时这些数据可以被加工成可搜索的数据库,在数据库中可以检索出每一帧画面。
在低带宽的场景中,对于给定的实时视频内容一台设备可以计算并发送一组系,而不是某个视频帧。而另一方面,当带宽足够通畅时,完整的图像相关的系数可以发送和储存。
当连接不良并且开始丢帧时,系统可以使用系数从之前存储的一个视频数据库中搜索出相似的对象。在给出的例子中,一个直播视频的系数在视频帧数据库中找到了一个最佳匹配。当相似对象特性的帧被发现时,它将被检索并显示在接收装置上。
在另一个场景中,生成的系数可以被用于在先前记录的视频帧中,并且将图像智能变形,所得的结果被插入到直播视频以代替丢帧处理。最后,被视作为背景内容的对象要比主要对象获得更低分辨率的视频传输。比如在呈现人物面部的分辨率要比墙壁背景的分辨率更高,这样就会在节省流量的前提下清晰的展示出主要的内容。
除了在通话质量上能够获得明显的好处之外,这项技术也可以用于减少在已发送视频中用于动态再现场景参数的数据消耗。尽管在每隔三个直播帧中才会插入一个人工生成的视频帧,但它的储量仍然非常巨大。
就像之前大多数的苹果公司专利一样,我们无法确认该项专利究竟何时会被真正应用到产品中。不过随着现在数据成本的上涨以及智能手机高分辨率相机模块的应用越来越多,这一功能对于经常使用FaceTime视频通过的用户来说将非常有利。
苹果公司该项“变形和匹配FaceTime视频帧”专利首次在2012年进行提交,专利发明人为Alex Tremain Nelson和Richard E.Crandall。