CN106375870B - 视频标注方法及装置 - Google Patents

Abstract

本发明提供了一种视频标注方法及装置，所述视频标注方法包括：针对视频中的每一个标注目标，创建与所述标注目标相对应的基于时间轴的图层；对于所述每一个标注目标，在与所述标注目标相对应的图层中的对应于所述标注目标在所述视频中出现的时间点处，为所述标注目标创建关键帧；以及在所述标注目标消失在所述视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建结束帧。根据本发明实施例的视频标注方法及装置针对视频上的标注目标添加了基于时间轴的对象列表区域(图层)，使得所标注的目标、标注目标在视频中的起始时间和结束时间能够直观显示，从而实现更有针对性的视频处理，便于更高效地获取视频中的期望有用信息。

Description

视频标注方法及装置

技术领域

本发明涉及视频处理技术领域，更具体地涉及一种视频标注方法及装置。

背景技术

视频标注是在视频预览或录像回放过程中，直接在视频上进行突出标记，使视频更具有针对性的视频处理方式，在诸多领域应用广泛。例如，视频标注可用于定位和重点关注某目标对象，锁定重要的视频线索信息。

目前的视频标注系统以视频为基础，直接在视频上进行多边形框及位移的数据处理。然而，它无法直观地显示标注目标总数，无法显示标注目标在视频中的起始时间和结束时间，也无法显示标注目标在时间节点上的变化。此外，现有的视频标注工具在同一个目标分时多次进入同一区域时，只能标注为不同的目标，即同一个标注目标多次进入标注区域时无法与上一次的标注进行关联。

发明内容

考虑到上述问题而提出了本发明。本发明提供了一种视频标注方法及装置，其针对视频上的标注目标添加了基于时间轴的对象列表区域(图层)，使得所标注的目标、标注目标在视频中的起始时间和结束时间能够直观显示。

根据本发明一方面，提供了一种视频标注方法，所述视频标注方法包括：针对视频中的每一个标注目标，创建与所述标注目标相对应的基于时间轴的图层；对于所述每一个标注目标，在与所述标注目标相对应的图层中的对应于所述标注目标在所述视频帧中出现的时间点处，为所述标注目标创建关键帧；以及在所述标注目标消失在所述视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建结束帧。

在本发明的一个实施例中，所述视频标注方法还包括：在所述标注目标的位置和/或属性发生变化时，在与所述标注目标相对应的图层中的对应的时间点处创建关键帧。

在本发明的一个实施例中，所述视频标注方法还包括：在所述标注目标消失后又重新出现在所述视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建关键帧。

在本发明的一个实施例中，所述关键帧中记录着所述标注目标在当前视频帧中的位置和/或属性。

在本发明的一个实施例中，所述标注目标消失在所述视频中时创建的所述结束帧的表现形式不同于其他时间点处针对所述标注目标创建的关键帧的表现形式。

在本发明的一个实施例中，所述视频标注方法还包括：计算图层中相邻两个关键帧之间的任意时间点处与所述图层相对应的标注目标的位置和/或属性，其中所述相邻两个关键帧中时间点靠前的关键帧不是所述结束帧。

在本发明的一个实施例中，所述计算包括通过线性差值的方式计算所述图层中相邻两个关键帧之间的任意时间点处与所述图层相对应的标注目标的位置和/或属性。

在本发明的一个实施例中，所述针对视频中的每一个标注目标，创建与所述标注目标相对应的基于时间轴的图层的步骤包括：对于所述每一个标注目标，当所述标注目标第一次出现在所述视频中时，为所述标注目标添加目标定位框；以及响应所述目标定位框的添加，为所述目标定位框选定的所述标注目标创建基于时间轴的图层。

根据本发明另一方面，提供了一种视频标注装置，所述视频标注装置包括：图层创建模块，用于针对视频中的每一个标注目标创建与所述标注目标相对应的基于时间轴的图层；以及关键帧创建模块，用于对于每一个标注目标，在与所述标注目标相对应的图层中的对应于所述标注目标在所述视频帧中出现的时间点处，为所述标注目标创建关键帧，以及在所述标注目标消失在所述视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建结束帧。

在本发明的一个实施例中，所述关键帧创建模块还用于：在所述标注目标的位置和/或属性发生变化时，在与所述标注目标相对应的图层中的对应的时间点处创建关键帧。

在本发明的一个实施例中，所述关键帧创建模块还用于：在所述标注目标消失后又重新出现在所述视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建关键帧。

在本发明的一个实施例中，所述关键帧创建模块所创建的关键帧中记录着所述标注目标在当前视频帧中的位置和/或属性。

在本发明的一个实施例中，所述关键帧创建模块在所述标注目标消失在所述视频中时创建的所述结束帧的表现形式不同于其他时间点处针对所述标注目标创建的关键帧的表现形式。

在本发明的一个实施例中，所述视频标注装置还包括：计算模块，所述计算模块用于计算图层中相邻两个关键帧之间的任意时间点处与所述图层相对应的标注目标的位置和/或属性，其中所述相邻两个关键帧中时间点靠前的关键帧不是所述结束帧。

在本发明的一个实施例中，所述计算模块通过线性差值的方式计算所述图层中相邻两个关键帧之间的任意时间点处与所述图层相对应的标注目标的位置和/或属性。

在本发明的一个实施例中，所述视频标注装置还包括：标注工具，用于对于所述每一个标注目标，当所述标注目标第一次出现在所述视频中时，为所述标注目标添加目标定位框，其中，所述图层创建模块响应所述目标定位框的添加，为所述目标定位框选定的所述标注目标创建所述基于时间轴的图层。

根据本发明实施例的视频标注方法及装置针对视频上的标注目标添加了基于时间轴的对象列表区域(图层)，使得所标注的目标、标注目标在视频中的起始时间和结束时间能够直观显示，从而实现更有针对性的视频处理，便于更高效地获取视频中的期望有用信息。

附图说明

通过结合附图对本发明实施例进行更详细的描述，本发明的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本发明实施例的进一步理解，并且构成说明书的一部分，与本发明实施例一起用于解释本发明，并不构成对本发明的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1示出用于实现根据本发明实施例的视频标注方法和装置的示例电子设备的示意性框图；

图2示出根据本发明实施例的视频标注方法的示意性流程图；

图3示出根据本发明另一实施例的视频标注方法的示意性流程图；

图4示出采用根据本发明实施例的视频标注方法进行视频标注的一个示例；

图5示出根据本发明实施例的视频标注装置的示意性框图；以及

图6示出根据本发明实施例的视频标注系统的示意性框图。

具体实施方式

为了使得本发明的目的、技术方案和优点更为明显，下面将参照附图详细描述根据本发明的示例实施例。显然，所描述的实施例仅仅是本发明的一部分实施例，而不是本发明的全部实施例，应理解，本发明不受这里描述的示例实施例的限制。基于本发明中描述的本发明实施例，本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本发明的保护范围之内。

首先，参照图1来描述用于实现本发明实施例的视频标注方法和装置的示例电子设备100。

如图1所示，电子设备100包括一个或多个处理器102、一个或多个存储装置104、输入装置106、输出装置108以及图像传感器110，这些组件通过总线系统112和/或其它形式的连接机构(未示出)互连。应当注意，图1所示的电子设备100的组件和结构只是示例性的，而非限制性的，根据需要，所述电子设备也可以具有其他组件和结构。

所述处理器102可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元，并且可以控制所述电子设备100中的其它组件以执行期望的功能。

所述存储装置104可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器102可以运行所述程序指令，以实现下文所述的本发明实施例中(由处理器实现)的客户端功能以及/或者其它期望的功能。在所述计算机可读存储介质中还可以存储各种应用程序和各种数据，例如所述应用程序使用和/或产生的各种数据等。

所述输入装置106可以是用户用来输入指令的装置，并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或多个。

所述输出装置108可以向外部(例如用户)输出各种信息(例如图像或声音)，并且可以包括显示器、扬声器等中的一个或多个。

所述图像传感器110可以拍摄用户期望的图像(例如照片、视频等)，并且将所拍摄的图像存储在所述存储装置104中以供其它组件使用。

示例性地，用于实现根据本发明实施例的视频标注方法和装置的示例电子设备可以被实现为诸如智能手机、平板电脑等。

下面，将参考图2描述根据本发明实施例的视频标注方法200。

在步骤S210，针对视频中的每一个标注目标，创建与所述标注目标相对应的基于时间轴的图层。

在一个实施例中，当在视频中发现需要框选的目标(例如人或其他需要研究的物体、对象等)时，即，标注目标第一次出现在所述视频中时，可以通过标注工具对视频中的待框选目标添加一个目标定位框，该目标定位框例如表示为A。示例性地，目标定位框一般为矩形框，其用于框选视频中出现的目标。一般地，目标定位框内包括目标的所有部分(例如，包括人的整个身体或物体的整个轮廓等)。

响应于目标定位框的添加，即对标注目标的确定，可以为该标注目标创建一个与其相对应的基于时间轴的图层，例如表示为L，该图层L用来表示对应的标注目标，例如，目标定位框A所框选的标注目标。创建基于时间轴的图层，使得标注目标随时间的变化(例如标注目标的位置变化、在视频中出现和消失)在图层中直观地显示出来成为可能。

在步骤S220，对于所述每一个标注目标，在与所述标注目标相对应的图层中的对应于所述标注目标在所述视频帧中出现的时间点处，为所述标注目标创建关键帧。

在一个实施例中，当在视频中发现需要框选的目标时，即可以视为所述标注目标出现在视频中。在步骤S210中所创建的与该标注目标相对应的图层L上的对应于所述标注目标在视频中出现的时间节点(例如，表示为T0)处创建一个关键帧，表示所述标注目标出现在视频中的开始时间，可以将该关键帧称为开始帧，例如表示为K0。示例性地，该关键帧中记录着该标注目标在当前视频帧中的位置和/或属性，即开始出现在视频中时的初始位置和/或属性。因此，所创建的关键帧K0可以包括若干参数，例如表示为K0(L,T0,P0,ATTR0)，其中，L表示与该标注目标相对应的图层，T0表示当前时间点，P0表示标注目标在当前时间点的当前位置，ATTR0表示标注目标在当前时间点的当前属性。示例性地，标注目标的属性可以包括标注目标在运动轨迹上可以发生变化的属性，例如，诸如标注目标站立或者蹲下、朝向、举起物体等一些可以变化的动作属性，应该理解的是，所述属性还可以包括例如标注目标的样貌、标注目标的大小、颜色、姿态、穿着装扮等可以在视频中的运动轨迹发生变化的属性。

在步骤S230，在所述标注目标消失在所述视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建结束帧。

类似地，在标注目标消失在视频中时，在步骤S210中所创建的与该标注目标相对应的图层上的对应的时间节点(例如，表示为Tm)处创建一个关键帧，表示标注目标在视频中的结束时间，可以将该关键帧称为结束帧，例如表示为Km(L,Tm,Pm,ATTRm)。类似地，该结束帧中记录着该标注目标在当前视频帧中的位置Pm和/或属性ATTRm，即最后出现在视频中时的最终位置和/或属性，以及当前时间点等。

可对视频中每一个标注目标实施上述步骤S210至S230的操作，这样就可实现将视频中的标注目标、标注目标在视频中的开始和结束时间全部直观地通过基于时间轴的图层及其中的关键帧显示出来。

基于上面的描述，根据本发明实施例的视频标注方法针对视频上的标注目标添加了基于时间轴的对象列表区域(图层)，使得所标注的目标、标注目标在视频中的起始时间和结束时间能够直观显示，从而实现更有针对性的视频处理，便于更高效地获取视频中的期望有用信息。

示例性地，根据本发明实施例的视频标注方法可以在具有存储器和处理器的设备、装置或者系统中实现。

根据本发明实施例的视频标注方法可以部署在个人终端处，诸如智能电话、平板电脑、个人计算机等。替代地，根据本发明实施例的视频标注方法还可以部署在服务器端(或云端)。替代地，根据本发明实施例的视频标注方法还可以分布地部署在服务器端(或云端)和个人终端处。

在其他实施例中，根据本发明的视频标注方法还可包括其他的操作，下面结合图3进行进一步描述。

图3示出了根据本发明另一实施例的视频标注方法300的示意性流程图。如图3所示，视频标注方法300可以包括如下步骤：

在步骤S310，针对视频中的每一个标注目标，创建与所述标注目标相对应的基于时间轴的图层。

在步骤S320，对于所述每一个标注目标，在与所述标注目标相对应的图层中的对应于所述标注目标在所述视频中出现的时间点处，为所述标注目标创建关键帧。

此处，步骤S310和S320分别与图2中所描述的视频标注方法200的步骤S210和S220类似，为了简洁，此处不再赘述。

在步骤S330，在所述标注目标的位置和/或属性发生变化时，在与所述标注目标相对应的图层中的对应的时间点处创建关键帧。

根据本发明实施例，不仅可以在图层中创建关键帧以显示与所述图层对应的标注目标的在视频中的起止时间，还可以在图层中创建该标注目标在该段时间内所有的变化。例如，当在某一时间点T1对应的视频帧中，某标注目标的位置发生了偏移和/或属性发生了变化(例如，标注目标的动作发生变化等)，则可将目标定位框相应地改变，例如，通过标注工具对目标定位框进行相应地改变。响应于目标定位框的改变(例如位置和/或大小的变化等)，可以在与该标注目标相对应的图层中的对应的时间点(例如，T1)处创建关键帧K1，关键帧KI可以包括若干参数，例如表示为K1(L,T1,P1,ATTR1)。同样地，该关键帧记录着该标注目标在当前视频帧中的位置P1和/或属性ATTR1，以及当前时间点信息等。类似地，在其他时间点对应的视频帧中，在标注目标的位置和/或属性再次发生变化时，可在与所述标注目标相对应的图层中的相应时间点处再次创建关键帧。

基于这样的操作，标注目标的位置和属性的变化可实时且直观地反映在时间轴上。

步骤S340中，在所述标注目标消失在所述视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建结束帧。

示例性地，标注目标消失在视频中时创建的结束帧的表现形式可以不同于其他时刻针对该标注目标创建的关键帧的表现形式。例如，可将表示标注目标消失的结束帧创建为空心的表现形式，而将表示标注目标开始或位置/属性发生变化的关键帧创建为实心的表现形式(稍后请参见图4)。在另一个示例中，可以将标注目标开始、变化、消失时分别创建不同表现形式的关键帧，这样可以更直观地表示标注目标随时间的各种动态。

在步骤S350，在标注目标消失后又重新出现在视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建关键帧。

由于一个图层与一个标注目标相对应，且图层是基于时间轴的，可以有多个不连续的关键帧列表，因此，在标注目标消失后又重新出现在视频中时，可以在与所述标注目标对应的同一图层中的对应于所述标注目标重新出现在视频中的时间点处创建关键帧。由此，可以在同一个图层上创建对应的标注目标多次进入视频中的关键帧，从而可以解决同一个目标多次进入视频区域而被标注为不同目标的问题，直观地显示出同一标注目标的再次出现，实现标注目标与上次标注的关联。

此外，根据本发明的实施例，可以计算图层中相邻两个关键帧之间的任意时刻与该图层相对应的标注目标的位置和/或属性，其中相邻两个关键帧中时间点靠前的关键帧不是表示标注目标消失在视频中时的结束帧。例如，对于某标注目标，如果与其相对应的图层中包括相邻两个关键帧Ki(L,Ti,Pi,ATTRi)和K(i+1)(L,T(i+1),P(i+1),ATTR(i+1))，其中Ki不是结束帧，那么可以计算在T时刻(其中Ti≤T<T(i+1))与该图层相对应的标注目标的位置和/或属性。

示例性地，可以通过线性差值的方式计算图层中相邻两个关键帧之间的任意时刻与该图层相对应的标注目标的位置和/或属性。例如，在上面的示例中，可以基于标注目标在关键帧Ki的位置Pi和在K(i+1)的位置P(i+1)计算T时刻该标注目标的位置P，即

可以基于标注目标在关键帧Ki的属性ATTRi和在K(i+1)的属性ATTR(i+1)计算T时刻该标注目标的属性A，即

如果图层中不存在两个连续的关键帧，则可隐藏对该目标的标注，表示该目标已经离开视频区域。

基于上面的描述，根据本发明实施例的视频标注方法针对视频上的标注目标添加了基于时间轴的对象列表区域(图层)，使得所标注的目标、标注目标在视频中的起始时间和结束时间能够直观显示，此外，还能实时且直观地反映标注目标在时间节点上的变化，甚至能够直观地显示出同一标注目标消失后的再次出现、实现同一个标注目标的关联，因此能够实现非常有针对性的视频处理，便于更高效地获取视频中的期望有用信息。

值得注意的是，虽然在视频标注方法300中示出了步骤S310到S350，但其仅是示例性的，并不一定按照这样的顺序执行操作，也并不一定包括它们全部的操作。例如，可以仅包括步骤S310、S320、S340和S350。或者，可以在步骤S350之后再进行步骤S330等。

下面参考图4描述采用根据本发明实施例的视频标注方法进行视频标注的一个示例。

如图4所示，在当前视频的当前时刻，出现了3个标注目标(在该图中示出为3个人)，视频下方显示分别基于这些标注目标所创建的图层，例如，标识为人物1、人物2和人物3的对应图层，且三个图层分别对应于人物1、人物2和人物3。从图4中可以看到人物1、人物2、人物3的图层中包括多个关键帧，其中它们各自的第一个关键帧即为他们出现在视频中的开始帧，其与时间轴上的视频定位帧(即表示视频当前播放时刻/位置的帧)处于同一时刻。随着时间的推移，人物1在位置和/或属性发生一次变化后消失在视频中(如图4所示，人物1图层中的空心形式表现的结束帧示意人物1在对应的时间点处消失在视频中)，并在若干时间后又重新出现在视频中，并又经过两次变化后消失在视频中；人物2在位置和/或属性发生两次变化后消失在视频中；人物3在位置和/或属性发生一次变化后消失在视频中。此外，人物4比人物1、人物2、人物3更晚出现，在第一次出现在视频中的时候，在人物4对应的图层上创建关键帧，并在位置和/或属性发生三次变化后消失在视频中。由于当前视频显示的是在视频定位帧时刻的视频影像，因此稍后出现的人物4未出现在当前视频影像中。此外，图层中相邻关键帧之间的箭头示意性地指示对应的标注目标随时间的变化。

基于图4示出的示例，可清楚地理解根据本发明实施例的视频标注方法及其所带来的有益效果。

下面结合图5描述本发明另一方面提供的视频标注装置。图5示出了根据本发明实施例的视频标注装置500的示意性框图。

如图5所示，根据本发明实施例的视频标注装置500包括图层创建模块510和关键帧创建模块520。所述各个模块可分别执行上文中结合图2至图3描述的视频标注方法的各个步骤/功能。以下仅对视频标注装置500的各单元的主要功能进行描述，而省略以上已经描述过的细节内容。

图层创建模块510用于针对视频中的每一个标注目标创建与所述标注目标相对应的基于时间轴的图层。关键帧创建模块520用于对于每一个标注目标，在与所述标注目标相对应的图层中的对应于所述标注目标在所述视频帧中出现的时间点处，为所述标注目标创建关键帧，以及在所述标注目标消失在所述视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建结束帧。图层创建模块510和关键帧创建模块520均可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。

根据本发明实施例，视频标注装置500还包括标注工具(未在图5中示出)。当在视频中发现需要框选的目标(例如人或其他需要研究的物体、对象等)时，所述标注工具对视频中的待框选目标添加一个目标定位框，该目标定位框例如表示为A。示例性地，目标定位框一般为矩形框，其用于框选视频中出现的目标。一般地，目标定位框内包括目标的所有部分(例如包括人的整个身体或物体的整个轮廓等)。

根据本发明实施例，图层创建模块510可以响应于所述标注工具对目标定位框的添加(即对标注目标的确定)而为所述目标定位框选定的该标注目标创建一个与其相对应的基于时间轴的图层，例如表示为L，该图层L用来表示A对应的标注目标，例如，目标定位框A所框选的标注目标。图层创建模块510创建基于时间轴的图层，使得标注目标随时间的变化(例如标注目标的位置变化、在视频中出现和消失)在图层中直观地显示出来成为可能。

根据本发明实施例，对于每一个标注目标，关键帧创建模块520在图层创建模块510所创建的与该标注目标相对应的图层上的对应于所述标注目标在所述视频帧中出现的时间节点处创建一个关键帧，表示标注目标出现在视频中的时间。在一个实施例中，当在视频中发现需要框选的目标时，即可以视为所述标注目标出现在视频中。可以在图层创建模块510所创建的图层L上的对应于所述标注目标在视频中出现的时间节点(例如，表示为T0)处创建一个关键帧，表示所述标注目标出现在视频中的开始时间，可以将该关键帧称为开始帧，例如表示为K0。示例性地，该关键帧中记录着该标注目标在当前视频帧中的位置和/或属性，即开始出现在视频中时的初始位置和/或属性。因此，关键帧创建模块520所创建的关键帧K0可以包括若干参数，例如表示为K0(L,T0,P0,ATTR0)，其中，L表示与该标注目标相对应的图层，T0表示当前时间点，P0表示标注目标在当前时间点的当前位置，ATTR0表示标注目标在当前时间点的当前属性。示例性地，标注目标的属性可以包括标注目标在运动轨迹上可以发生变化的属性，例如，诸如标注目标站立或者蹲下、朝向、举起物体等一些可以变化的动作属性，应该理解的是，所述属性还可以包括例如标注目标的样貌、标注目标的大小、颜色、姿态、穿着装扮等可以在视频中的运动轨迹发生变化的属性。

类似地，关键帧创建模块520在标注目标消失在视频中时，在与该标注目标相对应的图层上的对应的时间节点(例如，表示为Tm)处创建一个关键帧，表示标注目标在视频中的结束时间，可以将该关键帧称为结束帧，例如表示为Km(L,Tm,Pm,ATTRm)。类似地，该结束帧中记录着该标注目标在当前视频帧中的位置Pm和/或属性ATTRm，即最后出现在视频中时的最终位置和/或属性，以及当前时间点等。

图层创建模块510和关键帧创建模块520可对视频中每一个标注目标实施上述操作，这样就可实现将视频中的标注目标、标注目标在视频中的开始和结束时间全部直观地通过基于时间轴的图层及其中的关键帧显示出来。

基于上面的描述，根据本发明实施例的视频标注装置针对视频上的标注目标添加了基于时间轴的对象列表区域(图层)，使得所标注的目标、标注目标在视频中的起始时间和结束时间能够直观显示，从而实现更有针对性的视频处理，便于更高效地获取视频中的期望有用信息。

根据本发明实施例，关键帧创建模块520还可以用于在所述标注目标的位置和/或属性发生变化时，在与所述标注目标相对应的图层中的对应的时间点处创建关键帧。例如，当在某一时间点T1对应的视频帧中，某标注目标的位置发生了偏移和/或属性发生了变化(例如，标注目标的动作发生变化等)，则可将目标定位框相应地改变，例如，通过所述标注工具对目标定位框进行相应地改变。响应于目标定位框的改变(例如位置和/或大小的变化等)，关键帧创建模块520可以在与该标注目标相对应的图层中的对应的时间点(例如，T1)处创建关键帧K1，关键帧KI可以包括若干参数，例如表示为K1(L,T1,P1,ATTR1)。同样地，该关键帧记录着该标注目标在当前视频帧中的位置P1和/或属性ATTR1，以及当前时间点等。类似地，在其他时间点对应的视频帧中，在标注目标的位置和/或属性再次发生变化时，关键帧创建模块520可在与所述标注目标相对应的图层中的相应时间点处再次创建关键帧。

基于关键帧创建模块520这样的操作，标注目标的位置和属性的变化可实时且直观地反映在时间轴上。

在所述标注目标消失在所述视频中时，关键帧创建模块520在与所述标注目标相对应的图层中的对应的时间点处创建结束帧。

示例性地，标注目标消失在视频中时创建的结束帧的表现形式可以不同于其他时刻针对该标注目标创建的关键帧的表现形式。例如，关键帧创建模块520可将表示标注目标消失的结束帧创建为空心的表现形式，而将表示标注目标开始出现在视频中以及标注目标的位置/属性发生变化的关键帧创建为实心的表现形式(请参见图4)。在另一个示例中，关键帧创建模块520可以将标注目标开始、变化、消失时分别创建不同表现形式的关键帧，这样可以更直观地表示标注目标随时间的各种动态。

在标注目标消失后又重新出现在视频中时，关键帧创建模块520在与所述标注目标相对应的图层中的对应的时间点处创建关键帧。

由于一个图层与一个标注目标相对应，且图层是基于时间轴的，因此，在标注目标消失后又重新出现在视频中时，关键帧创建模块520可以在与所述标注目标对应的同一图层中的对应于所述标注目标重新出现在视频中的时间点处创建关键帧。由此，关键帧创建模块520可以在同一个图层上创建对应的标注目标多次进入视频中的关键帧，从而可以解决同一个目标多次进入视频区域而被标注为不同目标的问题，直观地显示出同一标注目标的再次出现，实现与上次标注的关联。

此外，根据本发明的实施例，视频标注装置500还可以包括计算模块(未在图5中示出)，其可以用于计算图层中相邻两个关键帧之间的任意时刻与该图层相对应的标注目标的位置和/或属性，其中相邻两个关键帧中时间点靠前的关键帧不是表示标注目标消失在视频中时的结束帧。例如，对于某标注目标，如果与其相对应的图层中包括相邻两个关键帧Ki(L,Ti,Pi,ATTRi)和K(i+1)(L,T(i+1),P(i+1),ATTR(i+1))，其中Ki不是结束帧，那么计算模块可以计算在T时刻(其中Ti≤T<T(i+1)与该图层相对应的标注目标的位置和/或属性。

示例性地，计算模块可以通过线性差值的方式计算图层中相邻两个关键帧之间的任意时刻与该图层相对应的标注目标的位置和/或属性。例如，在上面的示例中，计算模块可以基于标注目标在关键帧Ki的位置Pi和在K(i+1)的位置P(i+1)计算T时刻该标注目标的位置P，即

类似地，计算模块可以基于标注目标在Ki的属性ATTR1和在K(i+1)的属性ATTR(i+1)计算T时刻该标注目标的属性A，即

如果图层中不存在两个连续的关键帧，则可隐藏对该目标的标注，表示该目标已经离开视频区域。

基于上面的描述，根据本发明实施例的视频标注装置针对视频上的标注目标添加了基于时间轴的对象列表区域(图层)，使得所标注的目标、标注目标在视频中的起始时间和结束时间能够直观显示，此外，还能实时且直观地反映标注目标在时间节点上的变化，甚至能够直观地显示出同一标注目标消失后的再次出现、实现同一个标注目标的关联，因此能够实现非常有针对性的视频处理，便于更高效地获取视频中的期望有用信息。

可以结合图4来理解根据本发明实施例的视频标注装置的结构、操作及其所带来的有益效果。

图6示出了根据本发明实施例的视频标注系统600的示意性框图。视频标注系统600包括存储装置610以及处理器620。

其中，存储装置610存储用于实现根据本发明实施例的视频标注方法中的相应步骤的程序代码。处理器620用于运行存储装置610中存储的程序代码，以执行根据本发明实施例的视频标注方法的相应步骤，并且用于实现根据本发明实施例的视频标注装置中的相应模块。此外，视频标注系统600还可以包括图像采集装置(未在图6中示出)，其可以用于采集视频。当然，图像采集装置不是必需的，可直接接收来自其他源的视频的输入。

在一个实施例中，在所述程序代码被处理器620运行时使得视频标注系统600执行以下步骤：针对视频中的每一个标注目标，创建与所述标注目标相对应的基于时间轴的图层；对于所述每一个标注目标，在与所述标注目标相对应的图层中的对应于所述标注目标在所述视频中出现的时间点处，为所述标注目标创建关键帧；以及在所述标注目标消失在所述视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建结束帧。

在一个实施例中，在所述程序代码被处理器620运行时还使得视频标注系统600执行以下步骤：在所述标注目标的位置和/或属性发生变化时，在与所述标注目标相对应的图层中的对应的时间点处创建关键帧。

在一个实施例中，在所述程序代码被处理器620运行时还使得视频标注系统600执行以下步骤：在所述标注目标消失后又重新出现在所述视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建关键帧。

在一个实施例中，所述关键帧中记录着所述标注目标在当前视频帧中的位置和/或属性。

在一个实施例中，所述标注目标消失在所述视频中时创建的所述结束帧的表现形式不同于其他时刻针对所述标注目标创建的关键帧的表现形式。

在一个实施例中，在所述程序代码被处理器620运行时还使得视频标注系统600执行以下步骤：计算图层中相邻两个关键帧之间的任意时间点处与所述图层相对应的标注目标的位置和/或属性，其中所述相邻两个关键帧中时间点靠前的关键帧不是所述结束帧。

在一个实施例中，所述计算包括通过线性差值的方式计算所述图层中相邻两个关键帧之间的任意时间点处与所述图层相对应的标注目标的位置和/或属性。

在一个实施例中，所述针对视频中的每一个标注目标，创建与所述标注目标相对应的基于时间轴的图层的步骤包括：对于所述每一个标注目标，当所述标注目标第一次出现在所述视频中时，为所述标注目标添加目标定位框；以及响应所述目标定位框的添加，为所述目标定位框选定的所述标注目标创建所述基于时间轴的图层。

此外，根据本发明实施例，还提供了一种存储介质，在所述存储介质上存储了程序指令，在所述程序指令被计算机或处理器运行时用于执行本发明实施例的视频标注方法的相应步骤，并且用于实现根据本发明实施例的视频标注装置中的相应模块。所述存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、或者上述存储介质的任意组合。所述计算机可读存储介质可以是一个或多个计算机可读存储介质的任意组合，例如一个计算机可读存储介质包含针对视频中的每一个标注目标创建与所述标注目标相对应的基于时间轴的图层的计算机可读的程序代码，另一个计算机可读存储介质包含为每一个标注目标在与所述标注目标相对应的图层中的相应时间点处创建关键帧的计算机可读的程序代码。

在一个实施例中，所述计算机程序指令在被计算机运行时可以实现根据本发明实施例的视频标注装置的各个功能模块，并且/或者可以执行根据本发明实施例的视频标注方法。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤：针对视频中的每一个标注目标，创建与所述标注目标相对应的基于时间轴的图层；对于所述每一个标注目标，在与所述标注目标相对应的图层中的对应于所述标注目标在所述视频中出现的时间点处，为所述标注目标创建关键帧；以及在所述标注目标消失在所述视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建结束帧。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤：在所述标注目标的位置和/或属性发生变化时，在与所述标注目标相对应的图层中的对应的时间点处创建关键帧。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤：在所述标注目标消失后又重新出现在所述视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建关键帧。

在一个实施例中，所述标注目标消失在所述视频中时创建的所述结束帧的表现形式不同于其他时刻针对所述标注目标创建的关键帧的表现形式。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤：计算图层中相邻两个关键帧之间的任意时间点处与所述图层相对应的标注目标的位置和/或属性，其中所述相邻两个关键帧中时间点靠前的关键帧不是所述结束帧。

在一个实施例中，所述计算包括通过线性差值的方式计算所述图层中相邻两个关键帧之间的任意时间点处与所述图层相对应的标注目标的位置和/或属性。

在一个实施例中，所述针对视频中的每一个标注目标，创建与所述标注目标相对应的基于时间轴的图层的步骤包括：对于所述每一个标注目标，当所述标注目标第一次出现在所述视频中时，为所述标注目标添加目标定位框；以及响应所述目标定位框的添加，为所述目标定位框选定的所述标注目标创建所述基于时间轴的图层。

根据本发明实施例的视频标注装置中的各模块可以通过根据本发明实施例的视频标注电子设备的处理器运行在存储器中存储的计算机程序指令来实现，或者可以在根据本发明实施例的计算机程序产品的计算机可读存储介质中存储的计算机指令被计算机运行时实现。

根据本发明实施例的视频标注方法、装置、系统以及存储介质针对视频上的标注目标添加了基于时间轴的对象列表区域(图层)，使得所标注的目标、标注目标在视频中的起始时间和结束时间能够直观显示，此外，还能实时且直观地反映标注目标在时间节点上的变化，甚至能够直观地显示出同一标注目标消失后的再次出现、实现与上次标注的关联，因此能够实现非常有针对性的视频处理，便于更高效地获取视频中的期望有用信息。

尽管这里已经参考附图描述了示例实施例，应理解上述示例实施例仅仅是示例性的，并且不意图将本发明的范围限制于此。本领域普通技术人员可以在其中进行各种改变和修改，而不偏离本发明的范围和精神。所有这些改变和修改意在被包括在所附权利要求所要求的本发明的范围之内。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

在本申请所提供的几个实施例中，应该理解到，所揭露的设备和方法，可以通过其它的方式实现。例如，以上所描述的设备实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个设备，或一些特征可以忽略，或不执行。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本发明并帮助理解各个发明方面中的一个或多个，在对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该本发明的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如相应的权利要求书所反映的那样，其发明点在于可以用少于某个公开的单个实施例的所有特征的特征来解决相应的技术问题。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域的技术人员可以理解，除了特征之间相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的物品分析设备中的一些模块的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

以上所述，仅为本发明的具体实施方式或对具体实施方式的说明，本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。本发明的保护范围应以权利要求的保护范围为准。

Claims (14)

1.一种视频标注方法，其特征在于，所述视频标注方法包括：

针对视频中的每一个标注目标，分别创建与所述标注目标相对应的基于时间轴的图层；

对于所述每一个标注目标，在与所述标注目标相对应的图层中的对应于所述标注目标在所述视频中出现的时间点处，为所述标注目标创建关键帧；

在所述标注目标的位置和/或属性发生变化时，在与所述标注目标相对应的图层中的对应的时间点处创建关键帧；以及

在所述标注目标消失在所述视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建结束帧。

2.根据权利要求1所述的视频标注方法，其特征在于，所述视频标注方法还包括：

在所述标注目标消失后又重新出现在所述视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建关键帧。

3.根据权利要求1或2所述的视频标注方法，其特征在于，所述关键帧中记录着所述标注目标在当前视频帧中的位置和/或属性。

4.根据权利要求1中所述的视频标注方法，其特征在于，所述标注目标消失在所述视频中时创建的所述结束帧的表现形式不同于其他时间点处针对所述标注目标创建的关键帧的表现形式。

5.根据权利要求1或2所述的视频标注方法，其特征在于，所述视频标注方法还包括：

计算图层中相邻两个关键帧之间的任意时间点处与所述图层相对应的标注目标的位置和/或属性，其中所述相邻两个关键帧中时间点靠前的关键帧不是所述结束帧。

6.根据权利要求5所述的视频标注方法，其特征在于，所述计算包括通过线性差值的方式计算所述图层中相邻两个关键帧之间的任意时间点处与所述图层相对应的标注目标的位置和/或属性。

7.根据权利要求1所述的视频标注方法，其特征在于，所述针对视频中的每一个标注目标，分别创建与所述标注目标相对应的基于时间轴的图层的步骤包括：

对于所述每一个标注目标，当所述标注目标第一次出现在所述视频中时，为所述标注目标添加目标定位框；以及

响应所述目标定位框的添加，为所述目标定位框选定的所述标注目标创建所述基于时间轴的图层。

8.一种视频标注装置，其特征在于，所述视频标注装置包括：

图层创建模块，用于针对视频中的每一个标注目标分别创建与所述标注目标相对应的基于时间轴的图层；以及

关键帧创建模块，用于对于每一个标注目标，在与所述标注目标相对应的图层中的对应于所述标注目标在所述视频帧中出现的时间点处，为所述标注目标创建关键帧，在所述标注目标的位置和/或属性发生变化时，在与所述标注目标相对应的图层中的对应的时间点处创建关键帧，以及在所述标注目标消失在所述视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建结束帧。

9.根据权利要求8所述的视频标注装置，其特征在于，所述关键帧创建模块还用于：

在所述标注目标消失后又重新出现在所述视频中时，在与所述标注目标相对应的图层中的对应的时间点处创建关键帧。

10.根据权利要求8或9所述的视频标注装置，其特征在于，所述关键帧创建模块所创建的关键帧中记录着所述标注目标在当前视频帧中的位置和/或属性。

11.根据权利要求8所述的视频标注装置，其特征在于，所述关键帧创建模块在所述标注目标消失在所述视频中时创建的所述结束帧的表现形式不同于其他时间点处针对所述标注目标创建的关键帧的表现形式。

12.根据权利要求8或9所述的视频标注装置，其特征在于，所述视频标注装置还包括：

计算模块，所述计算模块用于计算图层中相邻两个关键帧之间的任意时间点处与所述图层相对应的标注目标的位置和/或属性，其中所述相邻两个关键帧中时间点靠前的关键帧不是所述结束帧。

13.根据权利要求12所述的视频标注装置，其特征在于，所述计算模块通过线性差值的方式计算所述图层中相邻两个关键帧之间的任意时间点处与所述图层相对应的标注目标的位置和/或属性。

14.根据权利要求8所述的视频标注装置，其特征在于，所述视频标注装置还包括：

标注工具，用于对于所述每一个标注目标，当所述标注目标第一次出现在所述视频中时，为所述标注目标添加目标定位框，

其中，所述图层创建模块响应所述目标定位框的添加，为所述目标定位框选定的所述标注目标创建所述基于时间轴的图层。