专利汇可以提供一种基于OpenCL内核任务的调度框架专利检索,专利查询,专利分析的服务。并且本 发明 公开了一种基于OpenCL 内核 任务的调度 框架 。该框架包括经LLVM编译器对OpenCL内核任务进行特征提取与特征选择,得到内核代码的编译时静态特征与运行时特征;在特征提取过程中,使用Greedy Feature Selection 算法 选出最重要的几个特征,避免过拟合现象;然后将选择出来的特征使用 机器学习 中的静态分类器预测CPU与GPU的任务划分比例;最后使用调度算法对获得的任务划分比例与平台可利用设备信息,对任务进行实际的调度,本发明完成了上述功能的设计细节、实现算法和编码工作,实现了在异构系统中通过机器学习与调度算法结合,实现对计算资源的最大化利用的一种自动化调度,提高异构系统资源利用率。,下面是一种基于OpenCL内核任务的调度框架专利的具体信息内容。
1.一种基于OpenCL内核任务的调度框架,其特征在于,该框架中对于输入的每个OpenCL内核任务,在编译阶段生成其二进制文件,并得到AST抽象语法树,通过LLVM编译器从AST抽象语法树中分析抽取OpenCL内核静态代码特征,再经运行阶段得到动态代码特征,其中为了避免出现过拟合现象,使用Greedy Feature Selection算法对选出来的特征进行排序,选出最重要的几个特征,然后利用机器学习的SVM分类器预测得到任务划分比例,比例值是处于0到10之间的整数,最后将输入的OpenCL内核任务按照预测得到的划分比例值以Baseline调度算法调度到实际可用的设备CPU或GPU上,但对于有明显倾向的任务,比如得到的划分比例是9,表明该任务倾向于在GPU上执行,就按照添加了阈值机制的BIAS算法调度到具体的设备上。
2.根据权利要求1所述的一种基于OpenCL内核任务的调度框架,其特征在于,所述的通过LLVM编译器从AST抽象语法树中分析抽取OpenCL内核静态代码特征,是基于Clang和LLVM完成的,将特征抽取分为编译阶段特征抽取与运行时阶段特征抽取,在编译阶段特征抽取中,OpenCL内核程序通过Clang生成一棵AST抽象语法树,遍历AST,抽取代码静态特征,如:
浮点运算操作、定点运算操作、内存访问操作、OpenCL内建函数;在运行时阶段,抽取运行时特征,诸如问题大小特征,主机与内存之间的数据转换、全局工作项数目。
3.根据权利要求1所述的一种基于OpenCL内核任务的调度框架,其特征在于,所述的为了避免出现过拟合现象,使用Greedy Feature Selection算法对选出来的特征进行排序,选出最重要的几个特征,过程为所有的特征集为S,单个特征s∈S,已选择的特征集F,给F定义一个最小的错误mse,从S中抽取一个s,加入到F中,训练新的F,若mse减小,则确定将该特征加入F,并由mse值对其F中的特征进行排序,其中用SVM(support vector machine)完成这个贪心算法的训练。
4.根据权利要求1所述的一种基于OpenCL内核任务的调度框架,其特征在于,所述的基于机器学习的分类器预测得到任务划分比例,将选出来的几个重要特征作为输入,使用静态分类器,预测得到任务划分比例p值,p代表计算量数据空间的分配,代表任务在CPU/GPU上执行的比例,如,0代表完全在CPU上执行,10代表完全在GPU上执行,0与10之间的p值代表在CPU-GPU上同时执行。
5.根据权利要求1所述的一种基于OpenCL内核任务的调度框架,其特征在于,所述的基于Baseline调度算法,该算法中定义了三种任务队列C、G、M,分别表示任务只在CPU或者GPU或者单个CPU与GPU之间执行,在算法执行过程中,若两种设备类型都处于空闲状态,就从等待队列Q中选择一个任务,将其调度模式改为CPU-GPU混合模式后执行调度;若只有一个设备可用,从队列Q中选择一个任务,将调度模式改为在空闲GPU或在CPU上调度执行。
6.根据权利要求1所述的一种基于OpenCL内核任务的调度框架,其特征在于,所述的添加了阈值机制的BIAS算法,通过定义阈值使具有明显偏向特征的任务,即偏向在CPU或GPU上执行,避免跨设备共同执行的多余开销,不按照划分比例执行,直接调度到单类设备上执行,根据实验经验设置阈值上界和阈值下界,当系统中两种设备都可用时,先将任务的执行模式设置为CPU和GPU共同执行,之后根据阈值的上下界确定实际使用的调用模式,若其中一个任务的划分比例小于等于阈值下界,将其完全调度到CPU上执行;当其划分比例比例大于等于阈值上界,将其全调度到GPU上执行,当系统中只有一个设备可用时,以Baseline算法执行。
标题 | 发布/更新时间 | 阅读量 |
---|---|---|
一种基于深度学习的人脸识别用于检测疲劳驾驶的方法 | 2020-12-17 | 1 |
一种桥梁健康监控的方法及系统 | 2022-06-06 | 0 |
基于虚拟技术的会计教学系统 | 2020-10-18 | 1 |
一种末端即时物流的智能调度系统 | 2023-08-05 | 1 |
一种基于行为混淆的信息隐匿访问方法及系统、服务器 | 2020-08-08 | 2 |
一种带有自动学习装置的电池管理装置 | 2022-08-18 | 0 |
一种通过系统记录的行为进行统计信用分值的算法 | 2020-05-26 | 2 |
基于PCNN和PCANet的渔政监控系统红外目标识别方法及存储介质 | 2020-07-05 | 2 |
一种构建甲状腺超声领域本体的方法 | 2020-12-05 | 1 |
セメントの品質または製造条件の予測方法 | 2022-10-17 | 0 |
高效检索全球专利专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。
我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。
专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。