技术领域
[0001] 本
发明实施例涉及分支预测领域，具体涉及一种乱序高性能核的混合分支预测装置及方法。
背景技术
[0002] 随着处理器核的性能不断提升，处理器微体系结构也日益复杂。面对日益复杂的处理器微体系结构和有限的研制时间，如何有效地评估处理器性能，已然成为处理器设计需要克服的重要问题。而单芯片上晶体管数目的增加，使得处理器可采用更加复杂的微体系结构，超标量、分支预测、乱序执行、前瞻执行等技术也被广泛采用。但是，日益复杂的微体系结构带来的问题是处理器研制过程中如何进行更有效的性能分析。
[0003] 常用的处理器性能分析方法是使用
软件模拟器，主流处理器厂商也在处理器研制过程中开发并优化处理器性能分析模型。虽然软件模拟器的抽象层次通常较高，模拟速度较快，但其
精度往往有限，尤其是软件模拟过程中，通常还会采用一些
加速技术，导致模拟精度上的进一步损失。而RTL代码是比较准确的处理器性能模型，处理器在实现过程中，往往支持处理器性能监测单元，用于对处理器性能事件进行统计，并通过计数器给出性能统计结果。然而，受限于
硬件实现代价，处理器往往仅实现很少量的性能计数器，而这些计数器统计的性能事件主要用于指导软件优化。此外，采用软件模拟环境对RTL代码进行模拟的速度很慢。
[0004] 因此，
现有技术提供的性能预测，即对分支指令进行预测，还不足以指导微体系结构级的性能分析和优化，并且预测精度较低。
发明内容
[0005] 本发明实施例的目的在于提供一种乱序高性能核的混合分支预测装置及方法，用以提供高精度混合
分支预测器，并解决现有处理器核性能分析中精度低的问题。
[0006] 为实现上述目的，本发明实施例主要提供如下技术方案：
[0007] 第一方面，本发明实施例提供了一种乱序高性能核的混合分支预测装置，其特征在于，所述混合分支预测装置包括全局历史信息分支TAGE预测器、统计校正预测器、循环预测器和处理器整体性能评估模
块，所述TAGE预测器用于利用分体读取改进策略预测分支指令的主要方向；所述统计校正预测器用于根据TAGE预测器的预测结果和
置信度，确认或还原TAGE预测器的预测结果；所述循环预测器用于利用替换策略及循环分支折合技术，预测具有长循环主体的规则循环；所述处理器整体性能评估模块，用于结合benchmark程序和关键路径进行性能分析，处理器整体性能评估模块包括分支预测器ESL参数化系统建模单元、混合分支预测器量化分析部件、处理器体系结构性能分析部件、处理器专用性能检测部件和关键数据汇总部件。
[0008] 进一步地，所述TAGE分支预测结构包括：分支预测部件T0、Tagged部件T[i]和复用选择器MUX单元，每一个所述Tagged部件由tag单元、pred单元及u单元组成，所述分支预测部件T0、Tagged部件T[i]和复用选择器MUX单元，通过判断逻辑组成TAGE分支预测结构；其特征在于，所述分体读取改进策略包括：将T0和两位的pred单元均拆分为direction单元和strength单元；进行分支预测时，仅对direction单元进行读取；分支预测正确更新时，则直接将strength单元的强度设置为强。
[0009] 进一步地，所述分体读取改进策略还包括：将两位的pred单元均所拆分出的direction单元和strength单元，分别与tag单元和u单元进行组合，包括tag与direction组合形成的第一组合体和strength与u组合形成的第二组合体；将T0拆分出的direction单元和strength单元中的每一项分别存储于不同Bank的同一地址空间中。
[0010] 进一步地，所述分体读取改进策略还包括：TAGE预测器在进行预测时，仅
访问第一组合体；而当预测结果正确进行更新时，只访问第二组合体。
[0011] 进一步地，所述分体读取改进策略还包括：TAGE预测器在对分支指令进行预测的同时，
对流水线中正在进行的分支预测错误更新操作进行匹配，若分支预测错误更新操作访问项，与分支预测读取项是同一个Tagged部件的同一项的同一位，则直接对分支预测读取项的direction单元进行取反操作，进而得到正确的分支预测方向。
[0012] 进一步地，所述TAGE预测器还用于：当TAGE预测器在分支预测时发生错误，且分支预测项的提供部件不是历史信息长度最长的TAgged部件时，则为错误更新分配新的项；其中，若TAgged部件列表中暂无可分配的项，则进行外部干预；通过检索所有历史信息长度大于上述提供部件的TAgged部件，并将该TAgged部件中索引到的项的u位进行自减1操作，再分配新的项；若不同TAgged部件中出现多个可分配的项，则依据分配概率选取新的分配项。
[0013] 进一步地，所述统计校正预测器，还用于通过比较统计校正预测器和TAGE预测器的置信度大小来选择输出的预测结果是TAGE预测器的预测结果或统计校正预测器的预测结果；当统计校正预测器的置信度高于TAGE预测器的置信度时，选择统计校正预测器的预测结果，当TAGE预测器的置信度高于统计校正预测器的置信度时，选择AGE预测器的预测结果。
[0014] 进一步地，所述循环预测器具有64个条目，每个条目39bits，包括一个10bit的过去
迭代计数器、10bit的退休迭代计数器、10bit的tag计数器、4bit的置信度计数器、4bit的age计数器和1个方向位。
[0015] 进一步地，所述替换策略包括：仅当循环预测器条目的age计数器为空时，才替换该条目；而在分配时，首先设置age的初始值为7，若任一条目具有成为替换目标的可能性，则减小该条目的age值；当使用任一条目并提供了有效的预测时，则增加该条目的age，若循环预测器确定任一分支不是常规循环，则将该条目的age值清零。
[0016] 第二方面，本发明实施例提供了一种乱序高性能核的混合分支预测方法，[0017] 所述方法应用于一种乱序高性能核的混合分支预测装置中，所述方法包括：通过TAGE预测器执行分体读取改进策略来预测分支指令的主要方向；依据TAGE预测器的预测结果和置信度，通过统计校正预测器来确认或还原TAGE预测器的预测结果；利用循环预测器执行替换策略及循环分支折合技术，来预测具有长循环主体的规则循环；通过处理器整体性能评估模块对TAGE预测器、统计校正预测器和循环预测器的性能进行分析。
[0018] 本发明实施例提供的技术方案至少具有如下优点：
[0019] 本发明实施例提供一种乱序高性能核的混合分支预测装置及方法，该装置能够进行处理器微体系结构级的性能评估，减轻因分支预测失败、缺失指令所导致的乱序高性能处理器重命名阻塞；该装置可以看作一种高精度、且参数化灵活可配的混合分支预测器，由全局历史信息分支TAGE预测器、统计校正预测器和循环预测器组成，能够充分利用有限的存储开销，极大程度地减少访问冲突，在提高分支预测精度的同时提升处理器整体性能。
附图说明
[0020] 图1为本发明实施例提供的一种乱序高性能核的混合分支预测装置的结构示意图。
[0021] 图2为本发明实施例提供的一种乱序高性能核的混合分支预测装置的处理器整体性能评估示意图。
具体实施方式
[0022] 以下由特定的具体实施例说明本发明的实施方式，熟悉此技术的人士可由本
说明书所揭露的内容轻易地了解本发明的其他优点及功效。
[0023] 以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、
接口、技术之类的具体细节，以便透彻理解本发明。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中，省略对众所周知的系统、
电路以及方法的详细说明，以免不必要的细节妨碍本发明的描述。
[0024] 当包含流水线技术的处理器处理分支指令时就会遇到一个问题，根据判定条件的真/假的不同，有可能会产生跳转，从而打断流水线中指令的处理，因为处理器无法确定该指令的下一条指令，直到分支执行完毕。流水线越长，处理器等待的时间便越长，因为它必须等待分支指令处理完毕，才能确定下一条进入流水线的指令。分支预测技术便是为解决这一问题而出现的，然而现有的分支预测技术的精度已经不能满足越来越复杂的处理器核。
[0025] 因此，本发明实施例提供一种乱序高性能核的混合分支预测装置，参考图1，该混合分支预测装置主要包括全局历史信息分支TAGE预测器01、统计校正预测器02和循环预测器03；TAGE预测器01用于利用分体读取改进策略预测分支指令的主要方向；统计校正预测器02用于根据TAGE预测器01的预测结果和置信度确认TAGE预测器01的预测结果，当TAGE预测器01在统计上被错误预测时，统计预测器结合分支历史、分支置信度等，还原该分支误预测结果；循环预测器03用于利用替换策略及循环分支折合技术，预测具有长循环主体的规则循环。TAGE预测器01、统计校正预测器02和循环预测器03的输出端连接至复用选择器。
[0026] 具体地，正常的TAGE预测器01的分支预测结构包括：分支预测基本部件T0、Tagged部件T[i]和复用选择器MUX单元；每一个Tagged部件由tag单元、pred单元及u单元组成；分支预测基本部件T0、Tagged部件T[i]和复用选择器MUX单元，通过判断逻辑组成TAGE分支预测结构。其中，tag用于与搜索地址信息进行匹配，pred用于提供分支预测方向，u用于表示对应分支预测项是否有效。T0的搜索信息由程序计数器PC决定，T[i]的访问地址由PC和TAgged部件的历史信息进行hash操作得到。现有的TAGE分支预测结构，可同时支持多种不同历史信息长度的检索；并且分支历史信息越全，相应的分支预测可靠性越高；优先选择历史长度长的部件给出的分支预测方向，同时在所有TAgged部件均没有相应历史信息匹配项时，依据T0对分支预测方向做出预测。同其他单一历史信息长度的分支预测策略相比，虽然TAGE分支预测策略具有更高的分支预测精度，但面积开销及实现复杂度也比较大。
[0027] 因此，本发明实施例对TAGE分支预测器的结构制定分体读取改进策略，具体包括：在TAGE分支预测器的结构上，将T0和两bit的pred单元，均拆分为direction单元和strength单元；进行分支预测时，只对direction单元进行读取；当分支预测正确更新时，则直接将strength单元的强度设置为强。将两位的pred单元均所拆分出的direction单元和strength单元，分别与tag单元和u单元进行组合，包括tag与direction组合形成的第一组合体和strength与u组合形成的第二组合体；将T0拆分出的direction单元和strength单元中的每一项分别存储于不同Bank的同一地址空间中。该策略能够使得分支预测操作、分支预测正确更新操作同时进行，充分利用分体读取改进优势，极大程度地减少访问冲突。
[0028] 在执行策略上，本发明实施例TAGE预测器01在进行预测时，只访问第一组合体；而当预测结果正确进行更新时，只访问第二组合体。能够避免每次进行分支预测均需要访问两个体，从而导致与预测结果更新逻辑发生访存冲突，进而可能导致流水线停顿或一些预测结果信息无法更新等一系列引起处理器性能下降的现象。
[0029] 另外，本发明实施例的分体读取改进策略还包括：
[0030] TAGE预测器01在对分支指令进行预测的同时，对流水线中正在进行的分支预测错误更新操作进行匹配，若分支预测错误更新操作访问项与分支预测读取项是同一个Tagged部件的同一项的同一位，则直接对分支预测读取项的direction单元进行取反操作，进而得到正确的分支预测方向。
[0031] 上述TAGE预测器01还用于：当TAGE预测器在分支预测时发生错误，且分支预测项的提供部件不是历史信息长度最长的TAgged部件时，为错误更新分配新的项；其中，若TAgged部件中无可分配的项，则进行外部干预，检索所有历史信息长度大于上述提供部件的TAgged部件，并将该TAgged部件中索引到的项的u位进行自减1操作，再分配新的项；若不同TAgged部件中出现多个可分配的项，则依据分配概率选取新的分配项。
[0032] 通过上述概率分配的方法能够避免出现乒乓现象，从而规避了分支预测一直处于查找新的匹配项的循环，而造成不必要的开销。
[0033] 具体地，现有技术上的TAGE无法预测统计上有偏差的分支，例如，分支只对一个方向有很小的偏差，但与历史路径没有很强的相关性。在其中一些分支上，TAGE预测器01的性能有时比简单的PC索引的宽计数器表还差。
[0034] 为此，本发明实施例提供一种统计校正预测器02，统计校正器预测器用以更好地预测此类统计偏差分支。该校正旨在检测不太可能的预测并将其还原，具体地，将来自TAGE预测器01的预测以及该分支上的地址、全局历史记录、全局路径、本地历史记录信息呈现给统计校正器预测器，统计校正器决定是否反转预测。由于在大多数情况下，TAGE预测器01提供的预测是正确的，因此，统计校正器预测器的存储开销不会太大，并且可以提高预测准确率。
[0035] 更具体地，统计校正预测器02包括若干个不同的组件：1个偏置分量组件和若干个GEHL组件；偏置组件由两个表组成，表项使用不同的哈希函数编制索引，以限制条目冲突的影响，且通过PC和TAGE预测器01预测的方向进行索引。
[0036] GEHL组件分别使用全局条件分支历史记录、与返回堆栈相关的分支历史记录、多个条目的本地历史记录、若干个16条目的本地历史记录进行索引。且上述历史记录均具有多个表，所有表都是若干位计数器。分支预测是通过读取所有统计校正器表上预测的总和的符号来计算的，需要说明的是通过将两倍统计校正器表的数量乘以方向来整合TAGE预测器01的预测结果，该方向包括+1和-1。
[0037] 统计校正预测器02的表项，均使用GEHL组件所建议的动态
阈值策略进行更新，使用PC索引的动态阈值表，从而实现了边际收益，能够减少约0.19％的错误预测。
[0038] 另外，统计校正预测器02的输出，通常比TAGE预测器01的输出更准确；但是，当TAGE预测器01的输出为高置信度，而统计校正预测器02的输出为低置信度时，TAGE预测器01的结果通常更为准确。
[0039] 因此，本发明实施例的统计校正预测器02，还用于通过比较统计校正预测器02、TAGE预测器01的置信度大小，来选择输出的预测结果是TAGE预测器01的预测结果或统计校正预测器02的预测结果；
[0040] 当统计校正预测器02的置信度高于TAGE预测器01的置信度时，选择统计校正预测器02的预测结果；当TAGE预测器01的置信度高于统计校正预测器02的置信度时，选择TAGE预测器的预测结果。经测算，此方法可以减少约0.72％的错误预测。
[0041] 具体地，本发明实施例提供的循环预测器03具有64个条目，每个条目39bit，包括一个10bit的过去迭代计数、10bit的退休迭代计数、10bit的tag计数器、4bit的置信度计数器、4bit的age计数器和1个方向位。
[0042] 循环预测器03利用替换策略预测，具体的替换策略包括：仅当循环预测器03条目的age计数器为空时，才替换该条目；在分配时，首先设置age的初始值为7，若任一条目有成为替换目标的可能性，则减小该条目的age值；而当使用任一条目并提供了有效的预测时，则增加该条目的age，若循环预测器03确定任一分支不是常规循环，则将该条目的age值清零。
[0043] 参考图2，混合分支预测装置还包括处理器整体性能评估模块，该模块用于结合benchmark程序和关键路径进行性能分析，benchmark即基准检查程序；处理器整体性能评估模块包括混合分支预测器ESL参数化系统建模单元、混合分支预测器量化分析部件、处理器体系结构性能分析部件、处理器专用性能检测部件和关键数据汇总部件。
[0044] 首先依据TAGE预测器01、统计校正预测器02和循环预测器03的预测结果，利用高精度混合分支预测器ESL参数化系统建模，通过混合分支预测器量化分析部件进行量化分析，再利用处理器体系结构性能分析部件进行分析；利用处理器专用性能检测部件进行监测实时数据，并通过关键数据汇总部件进行数据汇总，再结合Benchmark和关键数据路径DataPath进行处理器整体性能分析，并将分析结果反馈至混合分支预测器ESL
参数化建模单元，进行闭环迭代，最终完成处理器整体性能评估模型的建立。通过该性能评估模型对混合分支预测装置进行性能评估，能够减轻因分支预测失败、缺失指令所导致的乱序高性能处理器重命名阻塞。
[0045] 本发明实施例提供一种乱序高性能核的混合分支预测装置能够进行微体系结构级的性能评估，减轻因分支预测失败、缺失指令所导致的乱序高性能处理器重命名阻塞；该装置提供一种高精度、且参数化灵活可配的混合分支预测器，由全局历史信息分支TAGE预测器、统计校正预测器和循环预测器组成，能够充分利用有限的存储开销，极大程度地减少访问冲突，在提高分支预测精度的同时提升处理器整体性能。
[0046] 与上述实施例对应的，本发明实施例提供一种乱序高性能核的混合分支预测方法，该方法应用于一种乱序高性能核的混合分支预测装置中，具体包括：
[0047] 通过TAGE预测器执行分体读取改进策略来预测分支指令的主要方向；分体读取改进策略包括：将T0和两位的pred单元均拆分为direction单元和strength单元；进行分支预测时，只对direction单元进行读取；分支预测正确更新时，则直接将strength单元的强度设置为强。将两位的pred单元所拆分出的direction单元和strength单元，分别与tag单元和u单元进行组合，包括tag与direction组合形成的第一组合体和strength与u组合形成的第二组合体；将T0拆分出的direction单元和strength单元中的每一项分别存储于不同Bank的同一地址空间中。且TAGE预测器在进行预测时，仅访问第一组合体；当预测结果正确进行更新时，只访问第二组合体。
[0048] 依据TAGE预测器的预测结果和置信度，通过统计校正预测器来确认或还原TAGE预测器的预测结果；当统计校正预测器的置信度高于TAGE预测器的置信度时，选择统计校正预测器的预测结果；当TAGE预测器的置信度高于统计校正预测器的置信度时，选择TAGE预测器的预测结果。
[0049] 利用循环预测器执行替换策略及分支循环折合技术，来预测具有长循环主体的规则循环；仅当循环预测器条目的age计数器为空时，才替换该条目；在分配时，首先设置age的初始值为7，若任一条目具有成为替换目标的可能性，则减小该条目的age值；而当使用任一条目并提供了有效的预测时，则增加该条目的age，若循环预测器确定任一分支不是常规循环，则将该条目的age值清零。
[0050] 并且通过处理器整体性能评估模块对TAGE预测器、统计校正预测器和循环预测器的性能进行分析。
[0051] 本发明实施例能够减轻因分支预测失败、缺失指令所导致的乱序高性能处理器重命名阻塞；利用参数化的Tagged部件及分体读取改进策略，实现高精度分支预测，并减少访问冲突；根据TAGE预测器的预测结果和置信度，确认或还原TAGE预测器的预测结果；利用替换策略及分支循环折合技术，预测具有长循环主体的规则循环；该装置能够充分利用有限的硬件存储开销，极大程度地减少访问冲突，在提高分支预测精度的同时提升处理器整体性能。
[0052] 本领域技术人员应该可以意识到，在上述一个或多个示例中，本发明所描述的功能可以用硬件与软件组合来实现。当
应用软件时，可以将相应功能存储在计算机可读介质中或者作为计算机可读介质上的一个或多个指令或代码进行传输。计算机可读介质包括计算机存储介质和通信介质，其中通信介质包括便于从一个地方向另一个地方传送
计算机程序的任何介质。存储介质可以是通用或专用计算机能够存取的任何可用介质。
[0053] 以上所述的具体实施方式，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施方式而已，并不用于限定本发明的保护范围，凡在本发明的技术方案的
基础之上，所做的任何
修改、等同替换、改进等，均应包括在本发明的保护范围之内。
