CN109857673A - 控件识别方法和装置 - Google Patents

Abstract

本发明公开了一种控件识别方法，方法包括：确定待识别控件所处的目标界面；基于所述目标界面的控件信息，识别所述待识别控件；其中，所述控件信息包括控件树、文本信息和图标信息中的至少两种。采用本发明实施例，能够提高控件识别的精确度。

Description

控件识别方法和装置

技术领域

本发明涉及终端领域，尤其涉及一种控件识别方法和装置。

背景技术

一款应用程序(Application，APP)在发布之前，需要对APP的功能和性能进行测试，需要在多台终端上测试APP的运行情况，查看APP的功能是否符合预期，以及在不同终端上的兼容性。

应用程序测试中需要执行一系列的测试脚本步骤，执行测试脚本步骤具体是对各测试脚本步骤对应的控件进行点击、滑动、长按等相关操作，由于对控件进行识别时，存在控件识别精确度不高的问题，进而影响应用程序测试。

因此，有必要提出一种能提高控件识别精确度的控件识别方法。

发明内容

本发明实施例提供一种控件识别方法，以解决控件识别精确度不高的问题。

为了解决上述技术问题，本发明是这样实现的：

第一方面，提供了一种控件识别方法，该方法包括：

确定待识别控件所处的目标界面；

基于所述目标界面的控件信息，识别所述待识别控件；

其中，所述控件信息包括控件树、文本信息和图标信息中的至少两种。

第二方面，提供了一种控件识别装置，该装置包括：

确定模块，用于确定待识别控件所处的目标界面；

识别模块，用于基于所述目标界面的控件信息，识别所述待识别控件；

其中，所述控件信息包括控件树、文本信息和图标信息中的至少两种。

第三方面，提供了一种终端设备，其特征在于，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如第一方面所述的方法的步骤。

第四方面，提供了一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现如第一方面所述的方法的步骤。

在本发明实施例中，通过基于待识别控件所处的目标界面的控件信息，识别所述待识别控件，能够提高控件识别的精确度。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本发明的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是本发明的一个实施例提供的一种应用场景的示意图；

图2是本发明的一个实施例提供的一种控件识别方法的流程示意图；

图3是本发明的一个实施例提供的一种基于控件树识别控件的方法流程示意图；

图4是本发明的一个实施例提供的一种基于文本信息识别控件的方法流程示意图；

图5是本发明的一个实施例提供的一种基于图标信息识别控件的方法流程示意图；

图6是本发明的另一个实施例提供的一种控件识别方法的流程示意图；

图7是本发明的一个实施例提供的一种控件识别装置的结构示意图；

图8是本发明的一个实施例提供的一种终端设备的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

下面参见图1对本发明的应用场景进行示例性说明。

本应用场景中包括：测试平台100和承载测试对象的终端设备102，终端设备102上的一用户界面上显示有第一待识别控件104和第二待识别控件106，其中：

在自动化测试过程中，测试平台100解析测试脚本，确定作为测试对象的目标控件的标识；基于控件树、文本信息和图标信息，从用户界面中识别到该目标控件；所述控件树中包括标识符或文本形式的待识别控件，所述文本信息中包括文本形式的待识别控件(例如：第二待识别控件106)，所述图标信息中包括图标形式的待识别控件(例如：第一待识别控件104)。

由此，可在自动化测试的过程中，不断识别到目标控件，执行与目标控件对应的脚本步骤，以达到执行整个自动化测试脚本的目的。

其中，自动化测试一般是指软件测试的自动化，软件测试就是在预设条件下运行系统或应用程序，评估运行结果，预先条件应包括正常条件和异常条件；自动化测试脚本是指定自动化测试的一系列指令，各指令对应于各测试脚本步骤；控件是指对数据和方法的封装；控件树可以直观表示各控件之间的层次关系；文本信息为当前用户界面中的所有文本；图标信息为当前用户界面中的所有图标。

图2是本发明的一个实施例提供的一种图标识别方法的流程示意图，该方法可由图1对应的应用场景中的终端设备执行，参见图2，该方法具体可以包括如下步骤：

步骤202：确定待识别控件所处的目标界面。

其中，目标界面为终端设备上的待识别控件所处的用户界面，测试平台可以确定待识别控件所处的用户界面。

步骤204：基于所述目标界面的控件信息，识别所述待识别控件；

其中，所述控件信息包括控件树、文本信息和图标信息中的至少两种。

需要说明的是，所述控件信息包括控件树和文本信息时，步骤204的一种实现方式可以为：

步骤S1：基于所述控件树，识别所述待识别控件，所述控件树中包括标识符或文本形式的所述待识别控件；

其中，标识符可以是预设ID(identifier，标识符)，标识符形式的待识别控件可以是“124”等，文本形式的待识别控件可以是“关闭”或“Close”等，控件树还可以包括图标形式的所述待识别控件，图标形式的待识别控件可以是“<”或等。

进一步地，参照图3，步骤S1的一种实现方式可以为：

步骤S102：在所述目标界面的控件树中根据预设控件树查找策略查找目标控件。

其中，目标控件为自动化测试过程中某测试步骤对应的控件，预设控件树查找策略具体可以示例为：

从目标控件的多个属性中，确定出目标控件的优选属性；根据该优选属性查找目标控件；优先属性可由测试人员预选指定，目标控件的属性可以是控件类型、控件的标识符等。

步骤S104：确定是否找到一个待识别控件。

若是，则执行步骤S106；若否，则执行步骤S108；

需要说明的是，由于控件的属性可能缺失，或者不同的控件拥有相同的属性，因此，在控件树中根据目标控件的优选属性查找目标控件时，可能会出现找不到控件，找到一个控件，或者找到多个控件的情况。为便于描述，可将找到的一个或多个控件称为待识别控件。

步骤S104具体可以示例为：

目标控件可以是“搜索按钮”，该搜索按钮的标识符可以是“1234”，图标可以是控件类型可以是A类控件，文本可以是“搜索”；在目标界面的控件树中可以根据目标控件的标识符查找目标控件，由于目标控件的标识符“1234”可能缺失，则可能无法通过目标控件的标识符查找目标控件；在目标界面的控件树中还可以根据目标控件的控件类型查找目标控件，由于控件树中A类控件可能有一个或多个，则可能找到一个或多个待识别控件，在找到一个或多个待识别控件时，识别待识别控件。

步骤S106：确定此待识别控件是否为标识符形式；

若是，则执行步骤S110；若否，则执行步骤S114；

其中，标识符形式为控件在控件树上的一种显示形式，控件的显示形式还可以是文本形式或图标形式，例如返回按钮可以显示为标识符形式的“223”，或者文本形式的“Close”或“关闭”，或图标形式的“□”。

步骤S110：确定此标识符形式的待识别控件与标识符形式的目标控件是否相匹配。

若是，则执行步骤S112；若否，则执行步骤S114；

步骤S110具体可以示例为：

确定标识符形式的待识别控件与标识符形式的目标控件的匹配度是否不低于第一预设匹配阈值，若不低于第一预设匹配阈值，则相匹配；若低于第一预设匹配阈值，则不相匹配。

步骤S112：识别出此标识符形式的待识别控件为目标控件；

步骤S114：确定此待识别控件是否为文本形式；

若是，则执行步骤S116；若否，则执行步骤S120；

步骤S116：确定此文本形式的待识别控件与文本形式的目标控件是否相匹配；

若是，则执行步骤S118；若否，则执行步骤S120；

步骤S116具体可以示例为：

确定文本形式的待识别控件与文本形式的目标控件的匹配度是否不低于第二预设匹配阈值，若不低于第二预设匹配阈值，则相匹配；若低于第二预设匹配阈值，则不相匹配。

步骤S118：识别出此文本形式的待识别控件为目标控件；

步骤S120：确定此图标形式的待识别控件与图标形式的目标控件是否相匹配；

若是，则执行步骤S122；

步骤S120具体可以示例为：

确定图标形式的待识别控件与图标形式的目标控件的匹配度是否不低于第三预设匹配阈值，若不低于第三预设匹配阈值，则相匹配；若低于第三预设匹配阈值，则不相匹配。

步骤S122：识别出此图标形式的待识别控件为目标控件；

步骤S108：确定多个图标形式的待识别控件中是否存在与图标形式的目标控件相匹配的待识别控件；

若是，则执行步骤S124；

步骤S108具体可以示例为：

找到多个待识别控件时，确定多个图标形式的待识别控件中的各个待识别控件与图标形式的目标控件的匹配度，若存在匹配度不低于第三预设匹配阈值，则存在与目标控件相匹配的待识别控件，否则不存在与目标控件相匹配的待识别控件。

步骤S124：识别出相匹配的待识别控件中，匹配度最高的图标形式的待识别控件为目标控件。

步骤S124具体可以示例为：

若第三预设匹配阈值为90％，相匹配的待识别控件的匹配度分别为92％，95％，98％，则匹配度为98％的待识别控件为目标控件。

步骤S2：若无法识别所述待识别控件，则基于所述文本信息，识别所述待识别控件，所述文本信息中包括文本形式的所述待识别控件。

进一步地，参照图4，步骤S2的一种实现方式可以为：

步骤S202：在所述文本信息中，采用OCR(Optical Character Recognition，光学字符识别)方式识别待识别控件，所述文本信息中包括文本形式的待识别控件；

步骤S204：确定文本形式的待识别控件与文本形式的目标文件是否相匹配；

若是，则执行步骤S206；

步骤S204具体可以示例为：

确定文本形式的待识别控件与文本形式的目标控件的匹配度是否不低于第二预设匹配阈值，若不低于第二预设匹配阈值，则相匹配；若低于第二预设匹配阈值，则不相匹配。

步骤S206：识别出此文本形式的待识别控件为目标控件。

在一个实施例中，在步骤S202之前，还包括：

步骤S201：确定目标界面的截图与参考界面的截图是否相匹配；

若是，则执行步骤S202；

其中，测试脚本分录制和执行两种状态，目标界面为当前脚本步骤执行时，待识别控件所处的界面；参考界面为当前脚本录制时，目标控件所处的界面；

步骤S201具体可以示例为：

确定目标界面的截图与参考界面的截图的匹配度是否低于第四预设匹配阈值；若不低于第四预设匹配阈值，则相匹配；若低于第四预设预设匹配阈值，则不相匹配。

基于步骤204的此实现方式，可以通过目标界面的控件树和文本信息结合的方式来识别待识别控件，提高了控件识别的精确度、多样性和可靠性。

需要说明的是，所述控件信息包括控件树和图标信息时，步骤204的另一种实现方式可以为：

步骤S1’：基于所述控件树，识别所述待识别控件，所述控件树中包括标识符或文本形式的所述待识别控件；

步骤S2’：若无法识别所述待识别控件，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

基于步骤204的此实现方式，可以通过目标界面的控件树和图标信息结合的方式来识别待识别控件，提高了控件识别的精确度、多样性和可靠性。

进一步地，参照图5，步骤S2’的一种实现方式可以为：

步骤S202’：在所述图标信息中，采用图像识别方式识别待识别控件，所述图标信息中包括图标形式的所述待识别控件；

步骤S204’：确定图标形式的待识别控件与图标形式的目标控件是否相匹配；

若是，则执行步骤S206’；

步骤S204’具体可以示例为：

确定图标形式的待识别控件与图标形式的目标控件的匹配度是否不低于第三预设匹配阈值，若不低于第三预设匹配阈值，则相匹配；若低于第三预设匹配阈值，则不相匹配。

步骤S206’：识别此待图标形式的识别控件为目标控件。

在一个实施例中，在步骤S202’之前，还包括：

步骤S201’：确定目标界面的截图与参考界面的截图是否相匹配；

若是，则执行步骤S202’；

步骤S201具体可以示例为：

确定目标界面的截图与参考界面的截图的匹配度是否低于第四预设匹配阈值；若不低于第四预设匹配阈值，则相匹配；若低于第四预设预设匹配阈值，则不相匹配。

需要说明的是，所述控件信息包括文本信息和图标信息时，步骤204的又一种实现方式可以为：

基于所述文本信息，识别所述待识别控件，所述文本信息中包括文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

基于步骤204的此实现方式，可以通过目标界面的文本信息和图标信息结合的方式来识别待识别控件，提高了控件识别的精确度、多样性和可靠性。

进一步地，步骤S2或步骤S2’的一种实现方式可以为：

确定图标形式的所述待识别控件的复杂度是否低于复杂度阈值；

若是，则基于所述图标信息，识别所述待识别控件的父控件，以识别所述待识别控件，所述图标信息中包括图标形式的所述父控件；

若否，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

本实现方式具体可以示例为：

若图标形式的所述待识别控件的复杂度低于复杂度阈值，即过于简单，则确定图标形式的所述待识别控件的父控件的复杂度是否低于复杂度阈值；

若图标形式的所述待识别控件的父控件的复杂度不低于复杂度阈值，则采用图像识别方式识别待识别控件的父控件，确定待识别控件的父控件与目标控件的父控件是否相匹配；若相匹配，则识别出待识别控件的父控件为目标控件的父控件，从而确定待识别控件为目标控件；

若图标形式的所述待识别控件的复杂度不低于复杂度阈值，则采用图像识别方式识别待识别控件，确定待识别控件与目标控件是否相匹配；若相匹配，则识别出待识别控件为目标控件。

基于此，通过识别待识别控件的父控件，来识别待识别控件，进一步提高了控件识别的可靠性和灵活性。

需要说明的是，步骤S2或步骤S2’的另一种实现方式可以为：

若图标形式的所述待识别控件的父控件的复杂度低于复杂度阈值，则确定所述待识别控件的父控件的父控件(即待识别控件的父父控件)的复杂度是否低于复杂度阈值；

若否，则采用图像识别方式识别所述待识别控件的父父控件，确定所述待识别控件的父父控件与目标控件的父父控件是否相匹配；若相匹配，则识别出待识别控件的父父控件为目标控件的父父控件，从而确定待识别控件为目标控件。

基于此，通过识别待识别控件的父父控件，来识别待识别控件，进一步提高了控件识别的可靠性和灵活性。

需要说明的是，所述控件信息包括控件树、文本信息和图标信息时，步骤204的再一种实现方式可以为：

步骤S1”：基于所述控件树，识别所述待识别控件，所述控件树中包括标识符或文本形式的所述待识别控件；

步骤S2”：若无法识别所述待识别控件，则基于所述文本信息，识别所述待识别控件，所述文本信息中包括文本形式的所述待识别控件；

步骤S3”：若无法识别所述待识别控件，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

基于步骤204的此实现方式，可以通过目标界面的控件树、文本信息和图标信息结合的方式来识别待识别控件，提高了控件识别的精确度、多样性和可靠性。

在步骤S3”之后，步骤204还包括：

若无法识别所述待识别控件，则确定是否超出第一预设识别周期；

若否，则基于所述控件树，识别所述待识别控件，所述控件树中包括标识符或文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述文本信息，识别所述待识别控件，所述文本信息中包括文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

基于此，通过设置预设识别周期，增加了控件识别的次数，提高了控件识别的可靠性和效率。

进一步地，在步骤S3”之后，步骤204还包括：

若超出所述第一预设识别周期，则确定是否超出第二预设识别周期；

若否，则基于所述文本信息，识别所述待识别控件，所述文本信息中包括文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

基于此，通过设置预设识别周期，增加了控件识别的次数，且在时间不充裕时，优先基于一种或几种控件信息来识别控件，提高了控件识别的灵活性、可靠性和效率。

对于图2对应的实施例，通过基于待识别控件所处的目标界面的控件信息，识别所述待识别控件，能够提高控件识别的精确度。

图6是本发明的另一个实施例提供的一种图标识别方法的流程示意图，该方法可由图1对应的应用场景中的终端设备执行，参见图6，该方法具体可以包括如下步骤：

步骤602：所述控件信息包括控件树、文本信息和图标信息时，基于所述控件树，识别所述待识别控件，所述控件树中包括标识符或文本形式的所述待识别控件；

步骤604：若无法识别所述待识别控件，则基于所述文本信息，识别所述待识别控件，所述文本信息中包括文本形式的所述待识别控件；

步骤606：若无法识别所述待识别控件，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件；

步骤608：若无法识别所述待识别控件，则确定是否超出第一预设识别周期；

若否，则执行步骤602；若是，则执行步骤610；

步骤610：确定是否超出第二预设识别周期；

若否，则执行步骤604；若是，则结束。

对于图6对应的实施例，通过基于目标界面的控件树、文本信息和目标信息中的至少2种来识别控件，提高了控件识别的精确度、可靠性、灵活性；通过设置预设识别周期，提高了控件识别的效率。

另外，对于上述方法实施方式，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本发明实施方式并不受所描述的动作顺序的限制，因为依据本发明实施方式，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施方式均属于优选实施方式，所涉及的动作并不一定是本发明实施方式所必须的。

图7是本发明的一个实施例提供的一种控件识别装置的结构示意图，参见图7，该装置具体可以包括：确定模块702和识别模块704，其中：

确定模块702，用于确定待识别控件所处的目标界面；

识别模块704，用于基于所述目标界面的控件信息，识别所述待识别控件；

其中，所述控件信息包括控件树、文本信息和图标信息中的至少两种。

对于图7对应的实施例，通过基于待识别控件所处的目标界面的控件信息，识别所述待识别控件，能够提高控件识别的精确度。

可选的，所述控件信息包括控件树和文本信息时，识别模块包括：

第一识别子模块，用于基于所述控件树，识别所述待识别控件，所述控件树中包括标识符或文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述文本信息，识别所述待识别控件，所述文本信息中包括文本形式的所述待识别控件。

可选的，所述控件信息包括控件树和图标信息时，识别模块还包括：

第二识别子模块，用于基于所述控件树，识别所述待识别控件，所述控件树中包括标识符或文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

可选的，所述控件信息包括文本信息和图标信息时，识别模块还包括：

第三识别子模块，用于基于所述文本信息，识别所述待识别控件，所述文本信息中包括文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

可选的，第二识别子模块或第三识别子模块还包括：

复杂度确定单元，用于确定图标形式的所述待识别控件的复杂度是否低于复杂度阈值；

若是，则基于所述图标信息，识别所述待识别控件的父控件，以识别所述待识别控件，所述图标信息中包括图标形式的所述父控件；

若否，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

可选的，所述控件信息包括控件树、文本信息和图标信息时，识别模块还包括：

第四识别子模块，用于基于所述控件树，识别所述待识别控件，所述控件树中包括标识符或文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述文本信息，识别所述待识别控件，所述文本信息中包括文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

可选的，第四识别子模块还包括：

第一周期确定单元，用于若无法识别所述待识别控件，则确定是否超出第一预设识别周期；

若否，则基于所述控件树，识别所述待识别控件，所述控件树中包括标识符或文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述文本信息，识别所述待识别控件，所述文本信息中包括文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

可选的，第一周期确定单元还包括：

第二周期确定子单元，用于若超出所述第一预设识别周期，则确定是否超出第二预设识别周期；

若否，则基于所述文本信息，识别所述待识别控件，所述文本信息中包括文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

本发明实施例提供的装置能够实现图2至图6的方法实施例中装置实现的各个过程，为避免重复，这里不再赘述。而且，应当注意的是，在本发明的装置的各个部件中，根据其要实现的功能而对其中的部件进行了逻辑划分，但是，本发明不受限于此，可以根据需要对各个部件进行重新划分或者组合。

图8为实现本发明各个实施例的一种终端设备的硬件结构示意图，

该终端设备800包括但不限于：射频单元801、网络模块802、音频输出单元803、输入单元804、传感器805、显示单元806、用户输入单元807、接口单元808、存储器809、处理器810、以及电源811等部件。本领域技术人员可以理解，图8中示出的终端设备结构并不构成对终端设备的限定，终端设备可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。在本发明实施例中，终端设备包括但不限于手机、平板电脑、笔记本电脑、掌上电脑、车载终端、可穿戴设备、以及计步器等。

其中，处理器810，用于确定待识别控件所处的目标界面；

基于所述目标界面的控件信息，识别所述待识别控件；

其中，所述控件信息包括控件树、文本信息和图标信息中的至少两种。

通过基于待识别控件所处的目标界面的控件信息，识别所述待识别控件，能够提高控件识别的精确度。

应理解的是，本发明实施例中，射频单元801可用于收发信息或通话过程中，信号的接收和发送，具体的，将来自基站的下行数据接收后，给处理器810处理；另外，将上行的数据发送给基站。通常，射频单元801包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外，射频单元801还可以通过无线通信系统与网络和其他设备通信。

终端设备通过网络模块802为用户提供了无线的宽带互联网访问，如帮助用户收发电子邮件、浏览网页和访问流式媒体等。

音频输出单元803可以将射频单元801或网络模块802接收的或者在存储器809中存储的音频数据转换成音频信号并且输出为声音。而且，音频输出单元803还可以提供与终端设备800执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出单元803包括扬声器、蜂鸣器以及受话器等。

输入单元804用于接收音频或视频信号。输入单元804可以包括图形处理器(Graphics Processing Unit，GPU)8041和麦克风8042，图形处理器8041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元806上。经图形处理器8041处理后的图像帧可以存储在存储器809(或其它存储介质)中或者经由射频单元801或网络模块802进行发送。麦克风8042可以接收声音，并且能够将这样的声音处理为音频数据。处理后的音频数据可以在电话通话模式的情况下转换为可经由射频单元801发送到移动通信基站的格式输出。

终端设备800还包括至少一种传感器805，比如光传感器、运动传感器以及其他传感器。具体地，光传感器包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板8061的亮度，接近传感器可在终端设备800移动到耳边时，关闭显示面板8061和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别终端设备姿态(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；传感器805还可以包括指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等，在此不再赘述。

显示单元806用于显示由用户输入的信息或提供给用户的信息。显示单元806可包括显示面板8061，可以采用液晶显示器(Liquid Crystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板8061。

用户输入单元807可用于接收输入的数字或字符信息，以及产生与终端设备的用户设置以及功能控制有关的键信号输入。具体地，用户输入单元807包括触控面板8071以及其他输入设备8072。触控面板8071，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板8071上或在触控面板8071附近的操作)。触控面板8071可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器810，接收处理器810发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板8071。除了触控面板8071，用户输入单元807还可以包括其他输入设备8072。具体地，其他输入设备8072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆，在此不再赘述。

进一步的，触控面板8071可覆盖在显示面板8061上，当触控面板8071检测到在其上或附近的触摸操作后，传送给处理器810以确定触摸事件的类型，随后处理器810根据触摸事件的类型在显示面板8061上提供相应的视觉输出。虽然在图8中，触控面板8071与显示面板8061是作为两个独立的部件来实现终端设备的输入和输出功能，但是在某些实施例中，可以将触控面板8071与显示面板8061集成而实现终端设备的输入和输出功能，具体此处不做限定。

接口单元808为外部装置与终端设备800连接的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元808可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到终端设备800内的一个或多个元件或者可以用于在终端设备800和外部装置之间传输数据。

存储器809可用于存储软件程序以及各种数据。存储器809可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器809可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

处理器810是终端设备的控制中心，利用各种接口和线路连接整个终端设备的各个部分，通过运行或执行存储在存储器809内的软件程序和/或模块，以及调用存储在存储器809内的数据，执行终端设备的各种功能和处理数据，从而对终端设备进行整体监控。处理器810可包括一个或多个处理单元；优选的，处理器810可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器810中。

终端设备800还可以包括给各个部件供电的电源811(比如电池)，优选的，电源811可以通过电源管理系统与处理器810逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。

另外，终端设备800包括一些未示出的功能模块，在此不再赘述。

优选的，本发明实施例还提供一种终端设备，包括处理器810，存储器809，存储在存储器809上并可在所述处理器810上运行的计算机程序，该计算机程序被处理器810执行时实现上述控件识别方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

本发明实施例还提供一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现上述控件识别方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。其中，所述的计算机可读存储介质，如只读存储器(Read-Only Memory，简称ROM)、随机存取存储器(Random Access Memory，简称RAM)、磁碟或者光盘等。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。

上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，均属于本发明的保护之内。

Claims (10)

1.一种控件识别方法，其特征在于，包括：

确定待识别控件所处的目标界面；

基于所述目标界面的控件信息，识别所述待识别控件；

其中，所述控件信息包括控件树、文本信息和图标信息中的至少两种。

2.根据权利要求1所述的方法，其特征在于，所述控件信息包括控件树和文本信息时，基于所述目标界面的控件信息，识别所述待识别控件，包括：

基于所述控件树，识别所述待识别控件，所述控件树中包括标识符或文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述文本信息，识别所述待识别控件，所述文本信息中包括文本形式的所述待识别控件。

3.根据权利要求1所述的方法，其特征在于，所述控件信息包括控件树和图标信息时，基于所述目标界面的控件信息，识别所述待识别控件，包括：

基于所述控件树，识别所述待识别控件，所述控件树中包括标识符或文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

4.根据权利要求1所述的方法，其特征在于，所述控件信息包括文本信息和图标信息时，基于所述目标界面的控件信息，识别所述待识别控件，包括：

基于所述文本信息，识别所述待识别控件，所述文本信息中包括文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

5.根据权利要求3或4所述的方法，其特征在于，基于所述图标信息，识别所述待识别控件，包括：

确定图标形式的所述待识别控件的复杂度是否低于复杂度阈值；

若是，则基于所述图标信息，识别所述待识别控件的父控件，以识别所述待识别控件，所述图标信息中包括图标形式的所述父控件；

若否，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

6.根据权利要求1所述的方法，其特征在于，所述控件信息包括控件树、文本信息和图标信息时，基于所述目标界面的控件信息，识别所述待识别控件，包括：

基于所述控件树，识别所述待识别控件，所述控件树中包括标识符或文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述文本信息，识别所述待识别控件，所述文本信息中包括文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

7.根据权利要求6所述的方法，其特征在于，在基于所述图标信息，识别所述待识别控件之后，所述方法还包括：

若无法识别所述待识别控件，则确定是否超出第一预设识别周期；

若否，则基于所述控件树，识别所述待识别控件，所述控件树中包括标识符或文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述文本信息，识别所述待识别控件，所述文本信息中包括文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

8.根据权利要求7所述的方法，其特征在于，若超出所述第一预设识别周期，则确定是否超出第二预设识别周期；

若否，则基于所述文本信息，识别所述待识别控件，所述文本信息中包括文本形式的所述待识别控件；

若无法识别所述待识别控件，则基于所述图标信息，识别所述待识别控件，所述图标信息中包括图标形式的所述待识别控件。

9.一种控件识别装置，其特征在于，包括：

确定模块，用于确定待识别控件所处的目标界面；

识别模块，用于基于所述目标界面的控件信息，识别所述待识别控件；

其中，所述控件信息包括控件树、文本信息和图标信息中的至少两种。

10.一种终端设备，其特征在于，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如权利要求1至8中任一项所述的方法的步骤。