首页 / 专利库 / 电脑零配件 / 固件 / 软件 / 数据处理方法及相关产品

数据处理方法及相关产品

阅读:926发布:2023-06-11

专利汇可以提供数据处理方法及相关产品专利检索,专利查询,专利分析的服务。并且本 申请 实施例 提供了一种 数据处理 方法及相关产品,其中,方法包括:获取待处理数据,获取M个 图像处理 单元中每一图像处理单元对应的配置信息,得到M个配置信息,M为大于等于1的整数,根据上述M个配置信息,从M个图像处理单元中选取一个目标图像处理单元,该目标图像处理单元用于处理所述待处理数据,如此,可根据多个图像处理单元的配置信息,选取目标图像处理单元来处理待处理数据,在兼顾图像处理单元的配置信息、多卡负载均衡的前提下,体现了图像处理单元的资源配置的灵活性,提高了图像处理单元的资源利用率。,下面是数据处理方法及相关产品专利的具体信息内容。

1.一种数据处理方法,其特征在于,应用于服务器,所述服务器中包括至少一个图像处理单元,包括:
获取待处理数据;
获取M个所述图像处理单元中每一所述图像处理单元对应的配置信息,得到M个配置信息,M为大于等于1的整数;
根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元,所述目标图像处理单元用于处理所述待处理数据。
2.根据权利要求1所述的方法,所述配置信息包括显存大小;所述根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元,包括:
根据所述M个配置信息对应的M个显存大小,确定所述M个所述图像处理单元的M个内存状态,其中,每一所述图像处理单元对应一个内存状态,所述内存状态包括未使用状态和已使用状态;
选取所述M个内存状态中的内存状态为未使用状态对应的P个所述图像处理单元,其中,P为小于或等于M的整数;
比较所述P个所述图像处理单元中每一所述图像处理单元对应的显存大小与所述待处理数据对应的目标数据大小之间的大小关系;
从所述P个所述图像处理单元中选取显存大小大于所述目标数据大小的至少一个所述图像处理单元为第一图像处理单元,得到至少一个第一图像处理单元;
依据预设方式,对所述至少一个第一图像处理单元进行优先级排序;
选取优先级最大的第一图像处理单元为所述目标图像处理单元。
3.根据权利要求2所述的方法,其特征在于,在所述根据所述M个配置信息对应的M个显存大小,确定所述M个所述图像处理单元的M个内存状态之后,所述方法还包括:
若所述M个内存状态均为已使用状态,则选取所述M个显存大小中最大显存大小;
若所述最大显存大小大于或等于所述目标数据大小,则确定所述最大显存大小对应的所述图像处理单元为目标图像处理单元。
4.根据权利要求2所述的方法,其特征在于,在所述根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元之前,所述方法还包括:
获取所述待处理数据的目标数据类型;
获取所述M个所述图像处理单元中存储的N个数据类型;
根据所述目标数据类型,判断所述N个数据类型是否包括所述目标数据类型;
若不是,则执行所述根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元的步骤。
5.根据权利要求4所述的方法,其特征在于,所述方法还包括:
若是,则获取包括所述目标数据类型的至少一个第二图像处理单元,并获取所述至少一个第二图像处理单元对应的至少一个配置信息;
根据所述至少一个配置信息,确定每一所述第二图像处理单元对应的可用数据类型,得到至少一个可用数据类型;
选取所述至少一个可用数据类型中满足预设条件对应的H个第二图像处理单元;
根据所述H个第二图像处理单元对应的H个配置信息,从所述H个图像处理单元中选取一个目标图像处理单元。
6.根据权利要求5所述方法,其特征在于,所述方法还包括:
根据所述至少一个第二图像处理单元对应的至少一个配置信息,按照预设评分方式,对所述至少一个第二图像处理单元进行评分,得到至少一个分数值;
将所述待处理数据进行分处理,得到至少一个数据块;
按照所述至少一个分数值的大小关系,将所述至少一个数据块分布分配于所述至少一个第二图像处理单元中。
7.一种数据处理装置,其特征在于,应用于服务器,所述服务器中包括至少一个图像处理单元,包括:
获取单元,用于获取待处理数据;
所述获取单元,还用于获取M个所述图像处理单元中每一所述图像处理单元对应的配置信息,得到M个配置信息,每一所述图像处理单元对应一个配置信息,M为大于或等于1的整数;
选取单元,用于根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元,所述目标图像处理单元用于处理所述待处理数据。
8.根据权利要求7所述的装置,其特征在于,所述配置信息包括内存大小显存大小;在所述根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元方面,所述选取单元具体用于:
根据所述M个配置信息对应的M个内存大小显存大小,确定所述M个所述图像处理单元的M个内存状态,其中,每一所述图像处理单元对应一个内存状态,所述内存状态包括未使用状态和已使用状态;
选取所述M个内存状态中的内存状态为未使用状态对应的的P个内存状态,得到所述P个内存状态对应的P个所述图像处理单元,其中,P为小于或等于M的整数;
比较所述P个所述图像处理单元中每一所述图像处理单元对应的内存大小显存大小与所述待处理数据对应的目标数据大小之间的大小关系;
从所述P个所述图像处理单元中选取内存大小显存大小大于所述目标数据大小的至少一个所述图像处理单元为第一图像处理单元,得到至少一个第一图像处理单元;
依据预设方式,对所述至少一个第一图像处理单元进行优先级排序;
选取优先级最大的第一图像处理单元为所述目标图像处理单元。
9.一种服务器,其特征在于,包括处理器、存储器,所述存储器用于存储一个或多个程序,并且被配置由所述处理器执行,所述程序包括用于执行如权利要求1-6任一项所述的方法中的步骤的指令。
10.一种计算机可读存储介质,其特征在于,存储用于电子数据交换的计算机程序,其中,所述计算机程序使得计算机执行如权利要求1-6任一项所述的方法。

说明书全文

数据处理方法及相关产品

技术领域

[0001] 本申请涉及数据处理技术领域,具体涉及一种数据处理方法及相关产品。

背景技术

[0002] GPU(Graphics Processing Unit,图形处理器)卡以其强大的浮点计算以及并行处理能,越来越多地运用到智能安防等相关行业中。GPU卡的资源相对比较昂贵,一般一台服务器会配置多个GPU卡,但是,通过加载不同类型的数据进行运算或查询时,如果直接按照GPU卡的索引顺序进行数据处理,会重复占用计算资源,造成了空间浪费,资源利用率低。发明内容
[0003] 本申请实施例提供了一种数据处理方法及相关产品,可以提高资源利用率。
[0004] 本申请实施例第一方面提供了一种数据处理方法,应用于服务器,所述服务器中包括至少一个图像处理单元,包括:
[0005] 获取待处理数据;
[0006] 获取M个所述图像处理单元中每一所述图像处理单元对应的配置信息,得到M个配置信息,每一所述图像处理单元对应一个配置信息,M为大于或等于1的整数;
[0007] 根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元,所述目标图像处理单元用于处理所述待处理数据。
[0008] 可选地,在根据所述至少一个配置信息,按照预设评分方式,对所述至少一个第二图像处理单元进行评分,得到至少一个分数值之后,所述方法还包括:
[0009] 选取所述至少一个分数值中最大分数值对应的一个目标第二图像处理单元;
[0010] 获取所述目标第二图像处理单元的配置信息对应的目标第二显存大小和所述待处理数据对应的所述目标数据大小;
[0011] 若所述目标第二图像处理单元对应的目标第二显存大小大于或等于所述目标数据大小,则确定所述第二图像处理单元为目标图像处理单元;
[0012] 若所述目标第二图像处理单元对应的目标第二显存大小小于所述目标数据大小,则执行所述根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元的步骤。
[0013] 本申请实施例第二方面提供了一种数据处理装置,应用于服务器,所述服务器中包括至少一个图像处理单元,包括:
[0014] 获取单元,用于获取待处理数据;
[0015] 所述获取单元,还用于获取M个所述图像处理单元中每一所述图像处理单元对应的配置信息,得到M个配置信息,每一所述图像处理单元对应一个配置信息,M为大于或等于1的整数;
[0016] 选取单元,用于根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元;
[0017] 存储单元,用于将所述待处理数据存储于所述目标图像处理单元中。
[0018] 本申请第三方面提供了一种服务器,包括:处理器和存储器;以及一个或多个程序,所述一个或多个程序被存储在所述存储器中,并且被配置成由所述处理器执行,所述程序包括用于如第一方面中所描述的部分或全部步骤的指令。
[0019] 第四方面,本申请实施例提供了一种计算机可读存储介质,其中,所述计算机可读存储介质用于存储计算机程序,其中,所述计算机程序使得计算机执行如本申请实施例第一方面中所描述的部分或全部步骤的指令。
[0020] 第五方面,本申请实施例提供了一种计算机程序产品,其中,所述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,所述计算机程序可操作来使计算机执行如本申请实施例第一方面中所描述的部分或全部步骤。该计算机程序产品可以为一个软件安装包。
[0021] 实施本申请实施例,具有如下有益效果:
[0022] 可以看出,通过本申请实施例所描述的数据处理方法及相关产品,应用于服务器,可获取待处理数据,获取M个图像处理单元中每一图像处理单元对应的配置信息,得到M个配置信息,M为大于或等于1的整数,根据上述M个配置信息,从M个图像处理单元中选取一个目标图像处理单元,该目标图像处理单元用于处理所述待处理数据,如此,可根据图像处理单元的配置信息,选取目标图像处理单元来处理待处理数据,在兼顾图像处理单元配置信息、多卡负载均衡的前提下,体现了图像处理单元资源配置的灵活性,提高了图像处理单元的资源利用率。附图说明
[0023] 为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0024] 图1A是本申请实施例提供的一种数据处理方法的系统构架示意图;
[0025] 图1B是本申请实施例提供的一种数据处理方法的实施例流程示意图;
[0026] 图2是本申请实施例提供的一种数据处理方法的实施例流程示意图;
[0027] 图3是本申请实施例提供的一种数据处理方法的实施例流程示意图;;
[0028] 图4是本申请实施例提供的一种服务器的实施例结构示意图;
[0029] 图5是本申请实施例提供的一种数据处理装置的实施例结构示意图。

具体实施方式

[0030] 下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
[0031] 本申请的说明书权利要求书及所述附图中的术语“第一”、“第二”、“第三”和“第四”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0032] 在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置展示该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
[0033] 为了更好的理解本申请实施例提供的一种数据处理方法及相关产品,下面先对本申请实施例适用的数据处理方法的系统构架进行描述。参阅图1A,图1A是本申请实施例提供的数据处理方法的系统构架示意图。如图1A所示,系统构架可以包括一个或多个服务器以及多个图像处理单元,其中:
[0034] 服务器可以包括但不限于后台服务器、组件服务器、数据处理系统服务器或数据处理软件服务器等,服务器可以通过互联网与多个电子设备进行通信。服务器将数据处理结果发送到电子设备。
[0035] 服务器可与多个图像处理单元之间建立通信连接,当需要多卡配置待处理数据时,服务器可获取多个图像处理单元的配置信息,根据多个图像处理单元的配置信息的情况,从多个图像处理单元中选取一个目标图像处理单元,该目标图像处理单元可用来处理待处理数据,上述图像处理单元可以为GPU卡或者其他处理单元等等,在此不作限定。
[0036] 请参阅图1B,为本申请实施例提供的一种数据处理方法的实施例的流程示意图。应用于服务器,所述服务器中包括至少一个图像处理单元,本实施例中所描述的数据处理方法,包括以下步骤:
[0037] 101、获取待处理数据。
[0038] 其中,上述待处理数据可包括以下至少一种:图片、文件、视频、文本信息、语音信息等等,在此不作限定;可将上述待处理数据分为多个数据存储于待处理数据库中,例如,在处理人脸数据时,会依托于Faiss存储海量的人脸数据,以支持十亿级别向量的数据,Faiss是一个用于相似性搜索和密集向量聚类的高性能库,例如,该Faiss库可用于存储char类型人脸图像数据或者float类型图像数据等等,因此,服务器中可预设多个库存储海量的待处理数据。
[0039] 102、获取M个所述图像处理单元中每一所述图像处理单元对应的配置信息,得到M个配置信息,每一所述图像处理单元对应一个配置信息,M为大于或等于1的整数。
[0040] 其中,由于每个图像处理单元的显存大小有限,为了处理海量的数据量,一般会设置多个图像处理单元用于并行处理上述海量的数据量,一般一台服务器可配置多个图像处理单元,上述M个图像处理单元可用于加载不同类型的数据,以进行运算或查询,上述配置信息可包括以下至少一种:显存大小、负载值、负载的数据类型、可用空间、核数等等,在此不作限定;当M为1时,表明只有一个图像处理单元可用于选择处理上述待处理数据,此时,可判断该图像处理单元的显存大小,若待处理数据对应的目标数据大小等于或小于该图像处理单元的显存大小,则可直接选用该图像处理单元作为目标图像处理单元,反之,由于没有合适的图像处理单元处理该待处理数据,则可丢弃处理该待处理数据,或者,删除该待处理数据。
[0041] 103、根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元,所述目标图像处理单元用于处理所述待处理数据。
[0042] 其中,由于待处理数量的数据类型可为人身图片数据、语音数据、人脸图片数据等等,不同的应用场景对应的待处理数据的数据类型可能不同,一般一台服务器可配置多个图像处理单元,上述M个图像处理单元可用于加载不同类型的数据,若每次选卡均要先判断数据类型再选卡,会影响整个处理效率,若事先规定或者预设每个图像处理单元只能处理某一种数据类型,容易导致图像处理单元之间的负载不均衡,造成空间浪费;因此,可针对M个图像处理单元的配置信息,选取用于处理待处理数据的目标图像处理单元,该目标图像处理单元用于加载或处理上述待处理数据,以进行运算或查询,如此,有利于提高空间利用率。
[0043] 举例来说,若上述待处理数据为人脸图片数据,则可通过目标图像处理单元加载上述待处理数据,以便于进行后续的人脸识别,或者通过目标图像处理单元查询到目标人脸图片。
[0044] 可选地,上述步骤103,所述配置信息包括显存大小;根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标所述图像处理单元,可包括以下步骤:
[0045] 31、根据所述M个配置信息对应的M个显存大小,确定所述M个所述图像处理单元的M个内存状态,其中,每一所述图像处理单元对应一个内存状态,所述内存状态包括未使用状态和已使用状态;
[0046] 32、选取所述M个内存状态中的内存状态为未使用状态对应的的P个内存状态,得到所述P个内存状态对应的P个所述图像处理单元,其中,P为小于或等于M的整数;
[0047] 33、比较所述P个所述图像处理单元中每一所述图像处理单元对应的显存大小与所述待处理数据对应的目标数据大小之间的大小关系;
[0048] 34、从所述P个所述图像处理单元中选取显存大小大于所述目标数据大小的至少一个所述图像处理单元为第一图像处理单元,得到至少一个第一图像处理单元;
[0049] 35、依据预设方式,对所述至少一个第一图像处理单元进行优先级排序;
[0050] 36、选取优先级最大的第一图像处理单元为所述目标图像处理单元。
[0051] 其中,上述预设方式可为用户自行设置或者系统默认,由于每一图像处理单元的内存状态不同,该内存状态在一定程度上反应了该图像处理单元处理数据的能力,因此,服务器在进行目标图像处理单元的选取之前,可依据M个图像处理单元的内存大小,得到M个图像处理单元的内存状态,根据M个卡的内存状态,选取处理能力最优的目标图像处理单元。
[0052] 具体地,上述内存状态可包括以下至少一种:未使用状态和使用状态等等,因此在选择目标图像处理单元时,优先选择内存状态为未使用状态的P个图像处理单元,为了避免大内存图像处理单元处理小显存大小的待处理数据,造成的资源的浪费,可获取待处理数据对应的目标数据大小,从P个图像处理单元中选取显存大小大于目标数据大小的至少一个图像处理单元为第一图像处理单元,为了选取一个最为合适的图像处理单元,可按照图像处理单元的显存大小对上述至少一个第一图像处理单元进行优先级排序,显存大小越大,优先级越高则可选取显存大小最大的第一图像处理单元为目标图像处理单元,如此,对于大数据量多卡配置的图像处理单元的部署有很大帮助,有效降低了现场工程师部署的难度,在兼顾图像处理单元效率、资源利用率、多卡负载均衡的前提下,体现了图像处理单元资源配置的灵活性,有利于保证不同图像处理单元之间的负载均衡。
[0053] 在一种可能的示例中,上述步骤33之后,在比较所述P个所述图像处理单元中每一所述图像处理单元对应的显存大小与所述待处理数据对应的目标数据大小之间的大小关系之后,还可包括以下步骤:
[0054] 若P个所述图像处理单元中每一所述图像处理单元对应的显存大小均小于所述待处理数据对应的目标数据大小,则删除所述待处理数据。
[0055] 其中,若上述P个图像处理单元中不存在显存大小大于待处理数据对应的目标数据大小的卡,则表明上述待处理数据不符合处理要求,可丢弃该待处理数据。
[0056] 在一种可能的示例中,上述步骤31之后,在根据所述M个配置信息对应的M个显存大小,确定所述M个所述图像处理单元的M个内存状态之后,还可包括以下步骤:
[0057] 311、若所述M个内存状态均为已使用状态,则选取所述M个显存大小中最大显存大小;
[0058] 312、若所述最大显存大小大于或等于所述目标数据大小,则确定所述最大显存大小对应的所述图像处理单元为目标图像处理单元。
[0059] 其中,由于图像处理单元的内存状态在一定程度上反应了图像处理单元的处理性能,图像处理单元的内存状态,即内存空间越大,意味着能够处理的数据量越大,处理性能越高,因此,在选择图像处理单元时,可选取显存大小较大的图像处理单元,具体地,若上述每一图像处理单元的内存状态均为已使用状态,表明每一图像处理单元均不为空卡,若M个图像处理单元对应的显存大小最大的图像处理单元对应的内存大于目标数据大小,则可确定该卡为目标图像处理单元,反之,若最大显存大小小于上述目标数据大小,则丢弃该待处理数据,如此,可提高数据处理效率,除了可以兼顾效率和空间利用率之外,还有利于保持不同图像处理单元之间的负载均衡。
[0060] 在一种可能的示例中,在上述步骤103之前,还可包括以下步骤:
[0061] A1、获取所述待处理数据的目标数据类型;
[0062] A2、获取所述M个所述图像处理单元中存储的N个数据类型;
[0063] A3、根据所述目标数据类型,判断所述N个数据类型是否包括所述目标数据类型;
[0064] A4、若不是,则执行所述根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元的步骤。
[0065] 其中,每当内存状态为未使用状态的一个图像处理单元被选取处理待处理数据以后,服务器可记录该图像处理单元中处理的数据的数据类型,该数据类型即为图像处理单元中负载的数据类型,该数据处理类型可包括以下至少一种:图片、文字、视频等等,在此不作限定;可将该数据类型存储于预设数据库中,预设数据库可由用户自行设置或者系统默认,同时更新预设数据库中该图像处理单元与处理的待处理数据的数据类型之间的映射关系,如此,当该图像处理单元的显存大小还没被完全使用,若来了新的相同数据类型的待处理数据,可优先选择该图像处理单元,以提高图像处理单元的使用率。
[0066] 具体实现中,可在预设数据库对应的N个数据类型中匹配待处理数据的目标数据类型,若匹配成功,即该目标数据类型被查找到,则可确定预设数据库中存在图像处理单元中处理的数据的数据类型与该待处理数据相同,若匹配不成功,则可执行根据M个配置信息,从M个图像处理单元中选取一个目标图像处理单元,如此,可减少选卡的时间,提高图像处理单元资源利用率。此外,由于同一个图像处理单元的读写运算只能串行处理,而不同图像处理单元之间的处理可以并行,所以将不同类型的数据放在不同的图像处理单元上,可有效提高图像处理单元并行处理效率,无论对于数据加载或者海量数据搜索场景,都能极大地发挥图像处理单元并行处理的优势,提高整个系统的处理效率。
[0067] 在一种可能的示例中,在上述步骤A3之后,在根据所述目标数据类型,判断所述N个数据类型是否包括所述目标数据类型之后,还可包括以下步骤:
[0068] B1、若是,则获取包括所述目标数据类型的至少一个第二图像处理单元,并获取所述至少一个第二图像处理单元对应的至少一个配置信息;
[0069] B2、根据所述至少一个配置信息,确定每一所述第二图像处理单元对应的可用数据类型,得到至少一个可用数据类型;
[0070] B3、选取所述至少一个可用数据类型中满足预设条件对应的H个第二图像处理单元,H为大于或等于0的整数;
[0071] B4、获取所述H个第二图像处理单元对应的H个配置信息,根据所述H个配置信息,从所述H个第二图像处理单元中选取一个目标图像处理单元。
[0072] 其中,上述可用数据类型可理解为图像处理单元中可存储的数据类型的个数以及可存储的数据类型,由于同一个图像处理单元可存储多个数据类型,又由于M个图像处理单元中并不是每一个图像处理单元都处理有数据,可能存在空卡的情况,因此,上述M个图像处理单元中可能存在至少一个图像处理单元中能够处理上述目标数据类型,具体实现中,可从M个图像处理单元中选取至少一个第二图像处理单元,该第二图像处理单元中已存储数据中包括目标数据类型,并从上述至少一个第二图像处理单元中选取H个第二图像处理单元。
[0073] 此外,上述预设条件可为用户自行设置或者系统默认,上述预设条件可为indexNum(已有数据类型的个数)
[0074] 可选地,在上述步骤B1之后,在获取所述至少一个第二图像处理单元对应的至少一个配置信息之后,还可包括以下步骤:
[0075] B11、根据所述至少一个配置信息,按照预设评分方式,对所述至少一个第二图像处理单元进行评分,得到至少一个分数值;
[0076] B12、将所述待处理数据进行分块处理,得到至少一个数据块;
[0077] B13、按照所述至少一个分数值的大小关系,将所述至少一个数据块分布分配于所述至少一个第二图像处理单元中。
[0078] 其中,由于多个图像处理单元中已经处理同一种数据类型的图像处理单元可能不止一个,因此,在得到至少一个第二图像处理单元后,可对至少一个第二图像处理单元进行评分,以选取最优图像处理单元,若上述预设数据库中存在与目标数据类型相同的至少一个第二图像处理单元,可获取至少一个第二图像处理单元中每一第二图像处理单元配置信息中的显存大小以及内存状态,根据显存大小以及内存状态对至少一个第二图像处理单元进行评分,具体地,服务器可预设显存大小与第一分数值之间的映射关系,根据至少一个第二图像处理单元的显存大小,得到至少一个第一分数值,每一第一分数值对应一个第二图像处理单元;可预设内存状态与第二分数值之间的映射关系,得到至少一个第二分数值,每一第二分数值可对应一个第二图像处理单元,获取第一分数值与第二分数值分别对应的第一权值和第二权值,其中,第一权值与第二权值之间的和为1,上述第一权值和第二权值可由用户自行设置或者系统默认,根据第一权值、第二权值、第一分数值和第二分数值得到至少一个第二图像处理单元对应的分数值,分数值越大,则表示该图像处理单元的显存大小越大,性能越高。
[0079] 进一步地,在得到至少一个分数值以后,由于每个第二图像处理单元中处理的数据的数据类型均为目标数据类型,若上述待处理数据可分块并行处理,则可将上述待处理数据进行数据分块处理,以得到至少一个数据块,如此,可以将至少一个数据块按照其分数值从大到小的顺序,将上述至少一个数据块分布分配于至少一个第二图像处理单元中,如此,可保证待处理数据在图像处理单元中的合理分配,提高数据处理效率。
[0080] 可选地,在上述步骤B11之后,在根据所述至少一个配置信息,按照预设评分方式,对所述至少一个第二图像处理单元进行评分,得到至少一个分数值之后,还可包括如下步骤:
[0081] B111、选取所述至少一个分数值中最大分数值对应的一个目标第二图像处理单元;
[0082] B112、获取所述目标第二图像处理单元的配置信息对应的目标第二显存大小和所述待处理数据对应的所述目标数据大小;
[0083] B113、若所述目标第二图像处理单元对应的目标第二显存大小大于或等于所述目标数据大小,则确定所述目标第二图像处理单元为目标图像处理单元;
[0084] B114、若所述目标第二图像处理单元对应的目标第二显存大小小于所述目标数据大小,则执行所述根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元的步骤。
[0085] 其中,由于待处理数据的数据量的大小直接影响图像处理单元的选择,因此,可根据待处理数据对应的目标数据大小选取最优图像处理单元,具体地,在将上述至少一个第二图像处理单元进行评分以后,可选取最大分数值对应的目标第二图像处理单元,并比较目标第二图像处理单元对应的第三显存大小与目标数据大小,若目标第二图像处理单元对应的目标第二显存大小大于或等于上述目标数据大小,则表明该目标第二图像处理单元可用来处理上述待处理数据,可确定该目标第二图像处理单元为目标图像处理单元;若上述待处理数据不可分块并行处理,只能串行处理,则可执行根据M个配置信息,从M个图像处理单元中选取一个目标图像处理单元的步骤,从而采用其他方式选取一个新卡,用来处理上述待处理数据,具体的步骤在此不再赘述。
[0086] 在一种可能的示例中,可针对上述目标待处理数据的选卡流程设定优先级,例如,可优先考虑上述M个图像处理单元中是否与待处理数据对应的目标数据类型一样的图像处理单元,若有,则获取该图像处理单元对应的显存大小,若该显存大小小于或等于上述待处理数据对应的目标数据大小,则选择该图像处理单元为目标图像处理单元;若上述M个图像处理单元中没有与待处理数据对应的目标数据类型一样的图像处理单元,或者,上述图像处理单元对应的显存大小小于上述目标数据大小,则判断上述M个图像处理单元对应的M个内存状态中是否有未使用状态的图像处理单元,若有,且存在显存大小小于或等于上述目标数据大小的空图像处理单元,则可优先选择该空图像处理单元为目标图像处理单元,若没有,或者,不存在显存大小小于或等于上述目标数据大小的空图像处理单元,则根据上述M个图像处理单元的可用空间(剩余空间大小)选取目标图像处理单元,例如,可选取最大可用空间对应的图像处理单元为目标图像处理单元,因此,在选择目标图像处理单元时,可优先考虑待处理数据的数据类型,以减少图像处理单元的资源配置时间,然后再考虑上述M个图像处理单元中的空卡情况,可在兼顾待处理数据的数据大小的情况下,最大化利用上述图像处理单元,体现了图像处理单元资源配置的灵活性。
[0087] 可以看出,通过本申请实施例所提供的数据处理方法,应用于服务器,可获取待处理数据,获取M个图像处理单元中每一图像处理单元对应的配置信息,得到M个配置信息,其中,每一图像处理单元对应一个配置信息,M为大于或等于1的整数,根据上述M个配置信息,从M个图像处理单元中选取一个目标图像处理单元,该目标图像处理单元用于处理所述待处理数据,如此,可根据图像处理单元的配置信息,选取目标图像处理单元来处理待处理数据,在兼顾图像处理单元配置信息、多卡负载均衡的前提下,体现了图像处理单元资源配置的灵活性,提高了图像处理单元的资源利用率。
[0088] 与上述一致地,请参阅图2,为本申请实施例提供的一种数据处理方法的实施例流程示意图。本实施例中所描述的数据处理方法,应用于服务器,所述服务器中包括至少一个图像处理单元,包括以下步骤:
[0089] 201、获取待处理数据。
[0090] 202、获取M个所述图像处理单元中每一所述图像处理单元对应的配置信息,得到M个配置信息,每一所述图像处理单元对应一个配置信息,M为大于等于1的整数。
[0091] 203、根据所述M个配置信息对应的M个显存大小,确定所述M个所述图像处理单元的M个内存状态,其中,每一所述图像处理单元对应一个内存状态,所述内存状态包括未使用状态和已使用状态。
[0092] 204、选取所述M个内存状态中的内存状态为未使用状态对应的的P个内存状态,得到所述P个内存状态对应的P个所述图像处理单元,其中,P为小于或等于M的整数。
[0093] 205、比较所述P个所述图像处理单元中每一所述图像处理单元对应的显存大小与所述待处理数据对应的目标数据大小之间的大小关系。
[0094] 206、从所述P个所述图像处理单元中选取显存大小大于所述目标数据大小的至少一个所述图像处理单元为第一图像处理单元,得到至少一个第一图像处理单元。
[0095] 207、依据预设方式,对所述至少一个所述第一图像处理单元进行优先级排序。
[0096] 208、选取优先级最大的所述第一图像处理单元为所述目标图像处理单元。
[0097] 209、若所述M个内存状态均为已使用状态,则选取所述M个显存大小中最大显存大小。
[0098] 210、若所述最大显存大小大于或等于所述目标数据大小,则确定所述最大显存大小对应的所述第一图像处理单元为目标图像处理单元。
[0099] 211、若所述最大显存大小小于所述目标数据大小,则删除所述待处理数据。
[0100] 可选地,上述步骤201-步骤211的具体描述可参照图1B所描述的数据处理方法的步骤101-步骤103的对应步骤,在此不再赘述。
[0101] 可以看出,通过本申请实施例所提供的数据处理方法,应用于服务器,获取待处理数据,获取M个图像处理单元中每一图像处理单元对应的配置信息,得到M个配置信息,每一图像处理单元对应一个配置信息,M为大于1的整数,根据M个配置信息对应的M个显存大小,确定M个图像处理单元的M个内存状态,其中,每一图像处理单元对应一个内存状态,内存状态包括未使用状态和已使用状态,选取M个内存状态中的内存状态为未使用状态的P个内存状态,得到P个内存状态对应的P个图像处理单元,其中,P为小于或等于M的整数,比较P个图像处理单元中每一图像处理单元对应的显存大小与待处理数据对应的目标数据大小之间的大小关系,从P个图像处理单元中选取显存大小大于目标数据大小的至少一个图像处理单元为第一图像处理单元,得到至少一个第一图像处理单元,依据预设方式,对至少一个第一图像处理单元进行优先级排序,选取优先级最大的第一图像处理单元为目标图像处理单元,若M个内存状态均为已使用状态,则选取M个显存大小中最大显存大小,若最大显存大小大于或等于目标数据大小,则确定最大显存大小对应的第一图像处理单元为目标图像处理单元,若最大显存大小小于目标数据大小,则删除待处理数据,如此,可提高数据处理效率,除了可以兼顾效率和空间利用率之外,还有利于保持不同图像处理单元之间的负载均衡。
[0102] 与上述一致地,请参阅图3,为本申请实施例提供的一种数据处理方法的实施例流程示意图。本实施例中所描述的数据处理方法,应用于服务器,所述服务器中包括至少一个图像处理单元,包括以下步骤:
[0103] 301、获取待处理数据。
[0104] 302、获取所述待处理数据的目标数据类型。
[0105] 303、获取所述M个所述图像处理单元中存储的N个数据类型。
[0106] 304、根据所述目标数据类型,判断所述N个数据类型是否包括所述目标数据类型。
[0107] 305、若是,则获取包括所述目标数据类型的至少一个第二图像处理单元,并获取所述至少一个第二图像处理单元对应的至少一个配置信息。
[0108] 306、根据所述至少一个配置信息,确定每一所述第二图像处理单元对应的可用数据类型,得到至少一个可用数据类型。
[0109] 307、选取所述至少一个可用数据类型中满足预设条件对应的H个第二图像处理单元。
[0110] 308、根据所述H个第二图像处理单元对应的H个配置信息,从所述H个第二图像处理单元中选取一个目标图像处理单元。
[0111] 309、若不是,则执行所述根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元的步骤。
[0112] 可选地,上述步骤301-步骤309的具体描述可参照图1B所描述的数据处理方法的步骤101-步骤103的对应步骤,在此不再赘述。
[0113] 可以看出,通过本申请实施例所提供的数据处理方法,应用于服务器获取待处理数据,获取待处理数据的目标数据类型,获取M个图像处理单元中存储的N个数据类型,根据目标数据类型,判断N个数据类型是否包括目标数据类型,若是,则获取包括目标数据类型的至少一个图像处理单元,并获取至少一个图像处理单元对应的至少一个配置信息,根据至少一个配置信息,确定每一第二图像处理单元对应的可用数据类型,得到至少一个可用数据类型,选取至少一个可用数据类型满足预设条件对应的H个第二图像处理单元,根据H个第二图像处理单元对应的H个配置信息,从H个第二图像处理单元中选取一个目标图像处理单元,若不是,则执行根据M个配置信息,从M个图像处理单元中选取一个目标图像处理单元的步骤,如此,由于每个图像处理单元中处理的数据的数据类型均包括目标数据类型,但也处理有其他数据类型的数据,而每个图像处理单元能够处理的最大数据类型的数量有限,因此,可设置预设条件,选取满足预设条件的H个图像处理单元,则再根据H个图像处理单元的配置信息,选取目标图像处理单元,因此,可极大地发挥图像处理单元处理数据的优势,提高整个系统的处理效率。
[0114] 与上述一致地,以下为实施上述数据处理方法的装置,具体如下:
[0115] 请参阅图4,为本申请实施例提供的一种数据处理装置的实施例结构示意图。本实施例中所描述的数据处理装置,应用于服务器,所述服务器中包括至少一个图像处理单元,包括:获取单元401和选取单元402,具体如下:
[0116] 所述获取单元401,用于获取待处理数据;
[0117] 所述获取单元401,还用于获取M个所述图像处理单元中每一所述图像处理单元对应的配置信息,得到M个配置信息,每一所述图像处理单元对应一个配置信息,M为大于或等于1的整数;
[0118] 所述选取单元402,用于根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元,所述目标图像处理单元用于处理所述待处理数据。
[0119] 其中,上述获取单元401可用于实现上述步骤101、102所描述的方法,选取单元402可用于实现上述步骤103所描述的方法,以下如此类推。
[0120] 可以看出,通过本申请实施例所描述的数据处理装置,可获取待处理数据,获取M个图像处理单元中每一图像处理单元对应的配置信息,得到M个配置信息,其中,每一图像处理单元对应一个配置信息,M为大于1的整数,根据上述M个配置信息,从M个图像处理单元中选取一个目标图像处理单元,该目标图像处理单元用于处理所述待处理数据,如此,可根据图像处理单元的配置信息,选取目标图像处理单元来处理待处理数据,在兼顾图像处理单元配置信息、多卡负载均衡的前提下,体现了图像处理单元资源配置的灵活性,提高了图像处理单元的资源利用率。
[0121] 可以理解的是,本实施例的数据处理装置的各程序模块的功能可根据上述方法实施例中的方法具体实现,其具体实现过程可以参照上述方法实施例的相关描述,此处不再赘述。
[0122] 与上述一致地,请参阅图5,为本申请实施例提供的一种服务器的实施例结构示意图。本实施例中所描述的服务器,包括:至少一个输入设备1000;至少一个输出设备2000;至少一个处理器3000,例如CPU;和存储器4000,上述输入设备1000、输出设备2000、处理器3000和存储器4000通过总线5000连接。
[0123] 其中,上述输入设备1000具体可为触控面板、物理按键或者鼠标
[0124] 上述输出设备2000具体可为显示屏。
[0125] 上述存储器4000可以是高速RAM存储器,也可为非易失存储器(non-volatile memory),例如磁盘存储器。上述存储器4000用于存储一组程序代码,上述输入设备1000、输出设备2000和处理器3000用于调用存储器4000中存储的程序代码,执行如下操作:
[0126] 上述处理器3000,用于:
[0127] 获取待处理数据;
[0128] 获取M个所述图像处理单元中每一所述图像处理单元对应的配置信息,得到M个配置信息,每一所述图像处理单元对应一个配置信息,M为大于或等于1的整数;
[0129] 根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元,所述目标图像处理单元用于处理所述待处理数据。
[0130] 可以看出,通过本申请实施例所描述的服务器,可获取待处理数据,获取M个图像处理单元中每一图像处理单元对应的配置信息,得到M个配置信息,其中,每一图像处理单元对应一个配置信息,M为大于1的整数,根据上述M个配置信息,从M个图像处理单元中选取一个目标图像处理单元,该目标图像处理单元用于处理所述待处理数据,如此,可根据图像处理单元的配置信息,选取目标图像处理单元来处理待处理数据,在兼顾图像处理单元配置信息、多卡负载均衡的前提下,体现了图像处理单元资源配置的灵活性,提高了图像处理单元的资源利用率。
[0131] 在一个可能的示例中,在所述根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元方面,上述处理器3000具体用于:
[0132] 根据所述M个配置信息对应的M个显存大小,确定所述M个所述图像处理单元的M个内存状态,其中,每一所述图像处理单元对应一个内存状态,所述内存状态包括未使用状态和已使用状态;
[0133] 选取所述M个内存状态中的内存状态为未使用状态对应的的P个内存状态,得到所述P个内存状态对应的P个所述图像处理单元,其中,P为小于或等于M的整数;
[0134] 比较所述P个所述图像处理单元中每一所述图像处理单元对应的显存大小与所述待处理数据对应的目标数据大小之间的大小关系;
[0135] 从所述P个所述图像处理单元中选取显存大小大于所述目标数据大小的至少一个所述图像处理单元为第一图像处理单元,得到至少一个第一图像处理单元;
[0136] 依据预设方式,对所述至少一个所述第一图像处理单元进行优先级排序;
[0137] 选取优先级最大的所述第一图像处理单元为所述目标图像处理单元。
[0138] 在一个可能的示例中,在比较所述P个所述图像处理单元中每一所述图像处理单元对应的显存大小与所述待处理数据对应的目标数据大小之间的大小关系之后,上述处理器3000具体还用于:
[0139] 若P个所述图像处理单元中每一所述图像处理单元对应的显存大小均小于所述待处理数据对应的目标数据大小,则删除所述待处理数据。
[0140] 在一个可能的示例中,在所述根据所述M个配置信息对应的M个显存大小,确定所述M个所述图像处理单元的M个内存状态之后,上述处理器3000具体还用于:
[0141] 若所述M个内存状态均为已使用状态,则选取所述M个显存大小中最大显存大小;
[0142] 若所述最大显存大小大于或等于所述目标数据大小,则确定所述最大显存大小对应的所述图像处理单元为目标图像处理单元;
[0143] 若所述最大显存大小小于所述目标数据大小,则删除所述待处理数据。
[0144] 在一个可能的示例中,在所述根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元之前,上述处理器3000具体还用于:
[0145] 获取所述待处理数据的目标数据类型;
[0146] 获取所述M个所述图像处理单元中存储的N个数据类型;
[0147] 根据所述目标数据类型,判断所述N个数据类型是否包括所述目标数据类型;
[0148] 若不是,则执行所述根据所述M个配置信息,从所述M个所述图像处理单元中选取一个目标图像处理单元的步骤。
[0149] 在一个可能的示例中,上述处理器3000具体还用于:
[0150] 若是,则获取包括所述目标数据类型的至少一个个第二图像处理单元,并获取所述至少一个个第二图像处理单元对应的至少一个配置信息;
[0151] 根据所述至少一个配置信息,确定每一所述第二图像处理单元对应的可用数据类型,得到至少一个可用数据类型;
[0152] 选取所述至少一个可用数据类型中满足预设条件对应的H个第二图像处理单元;
[0153] 根据所述H个第二图像处理单元对应的H个配置信息,从所述H个所述第二图像处理单元中选取一个目标图像处理单元。
[0154] 在一个可能的示例中,在获取包括所述目标数据类型的至少一个所述第二图像处理单元,并获取所述至少一个所述第二图像处理单元对应的至少一个配置信息方面之后,上述处理器3000具体还用于:
[0155] 根据所述至少一个配置信息,按照预设评分方式,对所述至少一个所述第二图像处理单元进行评分,得到至少一个分数值;
[0156] 将所述待处理数据进行分块处理,得到至少一个数据块;
[0157] 按照所述至少一个分数值的大小关系,将所述至少一个数据块分布分配于所述至少一个所述第二图像处理单元中。
[0158] 在一个可能的示例中,在根据所述至少一个配置信息,按照预设评分方式,对所述至少一个所述第二图像处理单元进行评分,得到至少一个分数值之后,上述处理器3000具体还用于:
[0159] 选取所述至少一个分数值中最大分数值对应的一个目标第二图像处理单元;
[0160] 获取所述目标第二图像处理单元的配置信息对应的目标第二显存大小和所述待处理数据对应的所述目标数据大小;
[0161] 若所述目标第二图像处理单元对应的目标第二显存大小大于或等于所述目标数据大小,则确定所述目标第二图像处理单元为目标图像处理单元;
[0162] 若所述目标第二图像处理单元对应的第一显存大小小于所述目标数据大小,则执行所述根据所述M个配置信息,从所述M个图像处理单元中选取一个目标图像处理单元的步骤。
[0163] 本申请实施例还提供一种计算机存储介质,其中,该计算机存储介质可存储有程序,该程序执行时包括上述方法实施例中记载的任何一种数据处理方法的部分或全部步骤。
[0164] 尽管在此结合各实施例对本申请进行了描述,然而,在实施所要求保护的本申请过程中,本领域技术人员通过查看所述附图、公开内容、以及所附权利要求书,可理解并实现所述公开实施例的其他变化。在权利要求中,“包括”(comprising)一词不排除其他组成部分或步骤,“一”或“一个”不排除多个的情况。单个处理器或其他单元可以实现权利要求中列举的若干项功能。相互不同的从属权利要求中记载了某些措施,但这并不表示这些措施不能组合起来产生良好的效果。
[0165] 本领域技术人员应明白,本申请的实施例可提供为方法、装置(设备)、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。计算机程序存储/分布在合适的介质中,与其它硬件一起提供或作为硬件的一部分,也可以采用其他分布形式,如通过Internet或其它有线或无线电信系统。
[0166] 本申请是参照本申请实施例的方法、装置(设备)和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
[0167] 这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
[0168] 这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
[0169] 尽管结合具体特征及其实施例对本申请进行了描述,显而易见的,在不脱离本申请的精神和范围的情况下,可对其进行各种修改和组合。相应地,本说明书和附图仅仅是所附权利要求所界定的本申请的示例性说明,且视为已覆盖本申请范围内的任意和所有修改、变化、组合或等同物。显然,本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样,倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内,则本申请也意图包含这些改动和变型在内。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈