专利汇可以提供基于应用效果即时反馈的显卡虚拟化下的资源调度系统专利检索,专利查询,专利分析的服务。并且本 发明 提供一种基于应用程序即时效果反馈的在 虚拟机 间的物理显卡资源调度系统和方法。本发明描述的系统通过函数钩子的方法在宿主机物理显卡指令发送器和宿主机物理显卡应用程序 接口 之间插入调度执行器,延迟宿主机物理显卡指令发送器中指令和数据的发送,同时监控虚拟机内显卡应用程序相关的显示性能情况和物理显卡资源使用情况,进而提供反馈给任何基于时间或时序的显卡资源调度 算法 。本发明无需对虚拟机应用程序、宿主机 操作系统 、虚拟机操作系统、显卡驱动、虚拟机管理器进行任何 修改 。本发明无需暂停机器的运行,在重大提升虚拟机间显卡资源调度能 力 时运行时整体性能损耗低于5%。,下面是基于应用效果即时反馈的显卡虚拟化下的资源调度系统专利的具体信息内容。
1.一种基于应用效果即时反馈的显卡虚拟化下的资源调度系统,包括宿主机物理显卡指令发送器、宿主机物理显卡应用程序接口,其特征在于,还包括如下模块:
调度执行器,其连接在宿主机物理显卡指令发送器与宿主机物理显卡应用程序接口之间;
调度控制器,其连接所述调度执行器,
其中,调度控制器接收用户命令,并将用户命令传递给调度执行器;调度执行器接收来自于调度控制器的用户命令,监控应用程序运行状态,并将应用程序显卡状态结果传输到调度控制器,同时根据调度控制器指定使用的调度算法,周期性/事件性计算要满足最低应用程序显卡状态所需的延迟时间,延迟宿主机物理显卡指令发送器中指令和数据发送到宿主机物理显卡应用程序接口;调度控制器接收并处理显示来自于调度执行器的调度结果和调度状态。
2.根据权利要求1所述的基于应用效果即时反馈的显卡虚拟化下的资源调度系统,其特征在于,调度控制器接收用户命令,解析其中对各调度执行器的操作、调度算法的配置和相应参数,并将用户命令传递给调度执行器、接收来自于调度执行器的状态结果并显示给用户。
3.根据权利要求1所述的基于应用效果即时反馈的显卡虚拟化下的资源调度系统,其特征是,所述的调度控制器包括如下模块:
控制台,其用于接收用户命令,这些用户命令输入关于调度算法的配置和相应参数,并从调度通信器中获取调度结果并显示给用户;
调度通信器,其用于负责调度控制器与一个或多个调度执行器的通信,负责安装/卸载调度执行器、将用户命令传递给调度执行器、接收来自于调度执行器的应用程序显卡状态结果。
4.根据权利要求1所述的基于应用效果即时反馈的显卡虚拟化下的资源调度系统,其特征是,所述的调度执行器包括如下模块:
调度器,其用于接收用户命令中关于调度算法及其参数配置的指定,并负责查找相应调度算法的位置,配置调度算法并运行相应的调度算法,按需延迟宿主机物理显卡指令发送器中指令和数据发送到宿主机物理显卡应用程序接口;
应用程序显卡状态监控器,其用于采集来自宿主机物理显卡应用程序接口的显卡状态,并由此生成应用程序显卡状态结果,同时将应用程序显卡状态结果反馈给调度器,并传递给调度控制器中的调度通信器。
5.根据权利要求1所述的基于应用效果即时反馈的显卡虚拟化下的资源调度系统,其特征是,所述的应用程序显卡状态包括:与应用程序种类相关的显卡物理状态和/或逻辑状态测度。
6.一种根据上述任一权利要求所述的资源调度系统的显卡虚拟化下的显卡资源调度方法, 其特征在于,通过函数钩子的方法在宿主机物理显卡指令发送器和宿主机物理显卡应用程序接口之间插入调度执行器,延迟宿主机物理显卡指令发送器中指令和数据发送到宿主机物理显卡应用程序接口,同时监控应用程序相关的显示性能情况和物理显卡资源使用情况,进而提供反馈给任何基于时间或时序的显卡资源调度算法,无需对虚拟机应用程序、宿主机操作系统、虚拟机操作系统、显卡驱动、虚拟机管理器进行任何修改且性能损耗低。
7.根据权利要求6所述的显卡虚拟化下的显卡资源调度方法,其特征是,所述方法具体过程为:一个或多个虚拟机启动完成后,在客户需要安装所述资源调度系统时,通过应用程序运行的方法由调度控制器查找或按用户指定进程将调度执行器绑定到相应虚拟机;然后调度控制器中的调度通信器与各个被绑定的调度执行器建立通信;在对显卡资源进行调度的时候,客户发出指令选择调度算法并提供相应参数,控制台在收到客户指令后由调度通信器将用户命令分发给各个调度执行器;调度执行器根据用户命令配置运行所选显卡资源调度算法,延迟宿主机物理显卡指令发送器中指令和数据发送到宿主机物理显卡应用程序接口;与此同时,应用程序显卡状态监控器采集来自宿主机物理显卡应用程序接口的显卡状态,并由此生成应用程序显卡状态,随后周期性/事件性将应用程序显卡状态结果反馈给调度器,并传递给调度控制器中的调度通信器;在客户需要卸载所述资源调度系统时,客户通过调度控制器发出卸载指令,控制台在收到客户指令后由调度通信器将用户命令分发给各个调度执行器,调度执行器收到卸载指令后停止自身运行。
8.根据权利要求7所述的显卡虚拟化下的显卡资源调度方法,其特征是,所述的将调度执行器绑定到相应虚拟机的步骤,具体为:
步骤1.1,根据用户指定信息查找指定虚拟机图像渲染进程,或选取全部相关虚拟机图像渲染进程,对这些中的每一个虚拟机进程执行步骤1.2到步骤1.6;
步骤1.2,在该进程中创建新的线程,并在其中加载调度执行器;
步骤1.3,访问调度执行器入口,初始化调度执行器;
步骤1.4,查找该进程加载的宿主机物理显卡应用程序接口地址集合,修改其中每一个宿主机物理显卡应用程序接口地址处的代码,使其指向调度执行器中相应处理函数的入口并保存各寄存器内容,使得进程以后在每次使用宿主机物理显卡应用程序接口时会运行处理函数;
步骤1.5,设定处理函数返回地址为旧的宿主机物理显卡应用程序接口地址之后运行指令,恢复各寄存器内容,使得处理函数运行结束后能正确执行原有宿主机物理显卡应用程序接口;
步骤1.6,该线程不得结束。
9.根据权利要求6所述的显卡虚拟化下的显卡资源调度方法,其特征是,所述的延迟宿主机物理显卡指令发送器中指令和数据发送到宿主机物理显卡应用程序接口的步骤,具体为:
-若使用猜测技术,则包含如下子步骤:
步骤2.1a,在资源调度算法指定的处理函数中,停止计时本次中央处理器消耗时间,开始计时物理显卡资源本次消耗时间;
步骤2.2a,根据物理显卡资源消耗时间历史记录猜测物理显卡资源本次消耗时间;
步骤2.3a,暂停中央处理器执行一段时间,这段时间的长度为调度算法根据中央处理器本次消耗时间和物理显卡资源本次消耗时间计算而成;
步骤2.4a,调用原有宿主机物理显卡应用程序接口;
步骤2.5a,停止计时物理显卡资源本次消耗时间,更新到物理显卡资源消耗时间历史记录;
-若不使用猜测技术,则包含如下子步骤:
步骤2.1b,在资源调度算法指定的处理函数中,停止计时本次中央处理器消耗时间,开始计时物理显卡资源本次消耗时间;
步骤2.2b,调用原有宿主机物理显卡应用程序接口;
步骤2.3b,停止计时物理显卡资源本次消耗时间;
步骤2.4b,暂停中央处理器执行一段时间,这段时间的长度为调度算法根据中央处理器本次消耗时间和物理显卡资源本次消耗时间计算而成。
10.根据权利要求7所述的显卡虚拟化下的显卡资源调度方法,其特征是,所述的应用程序显卡状态监控器采集来自宿主机物理显卡应用程序接口的显卡状态的步骤,具体为:
步骤3.1,在资源调度算法指定的处理函数中,调用宿主机物理显卡应用程序接口、操作系统内核或显卡驱动提供的接口按照资源调度算法需求和用户命令采集显卡状态;
步骤3.2,在资源调度算法指定的处理函数中,调用原有宿主机物理显卡应用程序接口。
11.根据权利要求7所述的显卡虚拟化下的显卡资源调度方法,其特征是,所述的生成应用程序显卡状态的步骤,具体为:
步骤4.1,用户指定状态汇报频率,在调度执行器中,获取该状态汇报频率;
步骤4.2,当状态汇报时间点到来时,调度执行器中的应用程序显卡状态监控器将累计的状态结果传送到调度控制器中的调度通信器中;
步骤4.3,调度执行器清空自身的状态结果缓冲区。
12.根据权利要求7所述的显卡虚拟化下的显卡资源调度方法,其特征是,所述的调度执行器收到卸载指令后停止自身运行的步骤,具体为:
步骤5.1,每一个调度执行器收到卸载指令后,开始从步骤5.2到步骤5.3卸载过程;
步骤5.2,恢复该进程加载的宿主机物理显卡应用程序接口地址集合,修改其中每一个宿主机物理显卡应用程序接口地址处的代码为原应用程序接口地址处内容,使得进程以后在每次 使用宿主机物理显卡应用程序接口时会运行原应用程序接口逻辑;
步骤5.3,将调度执行器绑定到相应虚拟机过程中插入的线程结束,从而卸载调度执行器。
13.根据权利要求7所述的显卡虚拟化下的显卡资源调度方法,其特征是,所述的资源调度算法具体包括如下步骤:
步骤6.1,对于虚拟机群VM1,VM2…到VMn,每个虚拟机的调度执行器中的调度器解析用户方法配置,得到需要满足的最小显卡的负载率、最小每秒帧数、用户指定的检测周期T;
步骤6.2,在运行期间,处理函数会被多次调用,对于每次处理函数调用,使用猜测技术执行步骤2.1a到步骤2.5a;或不使用猜测技术执行步骤2.1b到步骤2.4b;
步骤6.3,对于每一个T周期,如果某个虚拟机VMm不满足状态测量,则寻找并降低拥有最大最小每秒帧数的虚拟机的最小每秒帧数设定;降低每秒帧数的数量取决于最近若干帧的应用程序的显卡负载率,每秒帧数和最近若干帧的应用显卡的负载率为线性关系;
步骤6.4,对于每一个T周期,如果物理显卡使用率不满足最小显卡的负载率,则提高所有虚拟机的最小每秒帧数设定;提高每秒帧数的数量取决于最近若干帧的应用程序的显卡负载率,每秒帧数和最近若干帧的应用程序的显卡负载率为线性关系;
步骤6.5,步骤6.2到步骤6.4保持有效,直到用户指定方法结束或更换方法或卸载调度执行器。
标题 | 发布/更新时间 | 阅读量 |
---|---|---|
虚拟单盘代理系统及方法 | 2020-05-08 | 398 |
信息的传输方法、装置、存储介质及电子装置 | 2020-05-08 | 293 |
一种处理音频异常的方法及电子设备 | 2020-05-08 | 347 |
内存分配方法、装置、存储介质及电子设备 | 2020-05-11 | 988 |
一种安全控制管理系统 | 2020-05-08 | 408 |
进程预警方法、装置、计算机设备和计算机可读存储介质 | 2020-05-08 | 714 |
一种内核访问方法、装置和介质 | 2020-05-08 | 399 |
网页数据获取方法、装置、电子设备及存储介质 | 2020-05-08 | 17 |
一种通过API截获对GPU进行资源管理的方法 | 2020-05-08 | 561 |
一种结合组织氧饱和度检测的声音外放式电子听诊器 | 2020-05-08 | 38 |
高效检索全球专利专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。
我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。
专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。