技术领域
[0001] 本
发明涉及
大数据技术领域，尤其涉及一种全文检索的方法和分布式NewSQL数据库系统。
背景技术
[0002] 目前Hbase单元是Hadoop生态体系中最著名的分布式NoSQL数据库之一。其设计理念来源于Google的Bigtable。Hbase单元主要组件包括HMaster和HRegionsever，为用户提供表格类型的数据模型，按主键范围划分为多个region，HMaster负责管理和分配region，HRegionserver负责region数据的读写。Hbase单元的优点使其成为目前应用最广泛的分布式NoSQL数据库之一，随着越来越多的应用尝试迁移到Hbase单元上，但Hbase单元只支持基于主键的查询，并不支持全文检索，给很多应用带来了不便。
发明内容
[0003] 本发明
实施例的目的是提供一种全文检索的方法和分布式NewSQL数据库系统，通过Solr支持分布式全文检索，支持非主键的查询，满足用户全文检索的需求。
[0004] 为实现上述目的，本发明实施例提供了一种全文检索的方法，适用于分布式NewSQL数据库系统，所述分布式NewSQL数据库系统包括Solr单元,所述全文检索的方法包括：
[0005] 以JDCB/ODBC的
接口方式接入用户
请求，其中，所述用户请求包括全文检索的查询条件；所述查询结果为根据所述查询条件所获得的查询结果；
[0006] 解析所述用户请求，编译以及生成对应的执行计划；
[0007] 根据执行计划，将所述查询条件从SQL条件语句转换成SOLR的查询表达式，然后根据所述SOLR的查询表达式查询Solr单元的索引表，获取对应的索引数据；并，[0008] 根据获取的所述索引数据查询数据表，从而获得对应的所述查询结果；其中，所述数据表中存有全文检索的数据字段，所述索引表中存有根据所述全文检索的数据字段的描述所生成的倒排索引形式的索引数据；
[0009] 返回所述查询结果给用户。
[0010] 进一步的，还包括：将所述用户请求转化SQL语句形式的SQL请求。
[0011] 进一步的，所述解析所述用户请求，编译以及生成对应的执行计划包括：
[0012] 判断共享缓存池中是否存在与所述SQL请求相对应的预存SQL语句，若是，则输出相对应的所述预存SQL语句对应的执行计划，若否，则，
[0013] 对所述SQL请求进行语法检查，若语法错误返回错误信息给用户，否则，[0014] 对所述SQL请求进行语义检查，若语义错误返回错误信息给用户，否则，[0015] 对所述SQL请求进行视图以及表达式转换，获得对应的转化结果；
[0016] 根据所述转换结果选择优化器，获得对应的优化器选择结果；
[0017] 根据所述优化器选择结果选择对应的数据连接方式以及连接顺序；
[0018] 根据连接方式和连接顺序选择搜索的路径；
[0019] 根据搜索路径生成执行计划，并输出执行计划。
[0020] 相应，本发明还提供一种分布式NewSQL数据库系统，包括：
[0021] JDCB/ODBC接口单元，用于与用户进行交互操作，包括接收用户请求，返回查询结果给用户；其中，所述用户请求包括全文检索的查询条件，所述查询结果为根据所述查询条件所获得的查询结果；
[0022] master单元，用于接入JDCB/ODBC接口单元所接入的用户请求，并协调多个处理器之间的数据通讯以及管理整体流程，并将所述用户请求优先发送给SQLPlaner单元；master单元还用于所述查询结果返回JDCB/ODBC接口单元；
[0023] SQLPlaner单元，用于解析所述用户请求，根据所述用户请求编译以及定制执行计划；
[0024] worker单元，用于并行地执行所述计划，包括：将所述查询条件从SQL条件语句转换成SOLR的查询表达式，然后根据所述SOLR的查询表达式查询索引表，获取对应的索引数据；并根据获取的所述索引数据查询数据表，从而获得对应的所述查询结果；并返回查询结果至所述master单元；
[0025] Hbase单元，用于储存所述数据表；其中，所述数据表中存有全文检索的数据字段；
[0026] Solr单元，用于储存所述索引表；其中，所述索引表中存有由根据所述全文检索的数据字段的描述所生成的倒排索引形式的索引数据；
[0027] 分布式事务管理器，用于当所述worker单元执行计划涉及事务时，协调多方完成分布式事务管理。
[0028] 进一步的，JDCB/ODBC接口单元还用于将所述用户请求转化SQL语句形式的SQL请求。
[0029] 进一步的，所述SQLPlaner单元用于：
[0030] 判断共享缓存池中是否存在与所述SQL请求相对应的预存SQL语句，若是，则输出相对应的所述预存SQL语句对应的执行计划，若否，则，
[0031] 对所述SQL请求进行语法检查，若语法错误返回错误信息给用户，否则，[0032] 对所述SQL请求进行语义检查，若语义错误返回错误信息给用户，否则，[0033] 对所述SQL请求进行视图以及表达式转换，获得对应的转化结果；
[0034] 根据所述转换结果选择优化器，获得对应的优化器选择结果；
[0035] 根据所述优化器选择结果选择对应的数据连接方式以及连接顺序；
[0036] 根据连接方式和连接顺序选择搜索的路径；
[0037] 根据搜索路径生成执行计划，并输出执行计划。
[0038] 进一步的，还包括：
[0039] 监视器，用于负责元数据管理，监控所述Hbase单元的Region的负载，以及通过所述Hbase单元的coprocessor模
块重新分配Region；所述监视器与所述master单元连接。
[0040] 进一步的，所述监控所述Hbase单元的Region的负载，以及通过所述Hbase单元的coprocessor模块重新分配Region包括：
[0041] 接收所述Hbase单元的数据分布信息，接收所述master单元中的所述worker单元的负载信息，其中，所述负载信息包括所述worker单元的负载偏差值；
[0042] 将所述worker单元的负载偏差值与预设负载偏差
阈值进行比较，若判定所述负载偏差值超过
阀值，触发所述Hbase单元将命中率较高
服务器上的Region和命中率较低服务器上的Region进行从新分配；
[0043] 获取每一Region的数据量，将每一所述Region的数据量与预设数据量阈值进行判断，若判定所述Region的数据量超过阀值，触发所述Hbase单元将超过预设数据量阈值的所述Region切分成两个。
[0044] 进一步的，所述JDCB/ODBC接口单元包括：
[0045] JDBC应用程序模块，用于接收用户请求，以及调用JDBC对象方法以给出SQL语句，并用于提取结果返回用户；
[0046] JDBC驱动程序管理器模块，用于为所述JDBC应用程序模块加载和调用JDBC驱动程序模块；
[0047] JDBC驱动程序模块，用于执行所述JDBC对象方法的调用，发送用户请求所对应的SQL语句给底层的数据库，并将从所述底层的数据库获得的结果返回给JDBC应用程序模块。
[0048] 与
现有技术相比，本发明公开的一种全文检索的方法和分布式NewSQL数据库系统，以JDCB/ODBC的接口方式接入用户请求，其中，所述用户请求包括全文检索的查询条件；所述查询结果为根据所述查询条件所获得的查询结果；解析所述用户请求，编译以及生成对应的执行计划；根据执行计划，将所述查询条件从SQL条件语句转换成SOLR的查询表达式，然后根据所述SOLR的查询表达式查询Solr单元的索引表，获取对应的索引数据；并，根据获取的所述索引数据查询数据表，从而获得对应的所述查询结果；其中，所述数据表中存有全文检索的数据字段，所述索引表中存有根据所述全文检索的数据字段的描述所生成的倒排索引形式的索引数据；返回所述查询结果给用户的技术方案，
[0049] 基于Solr单元实现全文检索，以支持分布式全文检索，支持用户非主键查询，满足用户全文检索的需求，提高用户体验。
附图说明
[0050] 图1是本发明实施例1提供的一种全文检索的方法的流程示意图；
[0051] 图2是本发明实施例2提供的一种分布式NewSQL数据库系统的结构示意图。
具体实施方式
[0052] 下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
[0053] 参见图1，图1是本发明实施例1提供的一种全文检索的方法的流程示意图；适用于分布式NewSQL数据库系统，所述分布式NewSQL数据库系统包括Solr单元,本实施例包括下述步骤：
[0054] S1、以JDCB/ODBC的接口方式接入用户请求，其中，所述用户请求包括全文检索的查询条件；所述查询结果为根据所述查询条件所获得的查询结果；
[0055] S2、解析所述用户请求，编译以及生成对应的执行计划；
[0056] S3、根据执行计划，将所述查询条件从SQL条件语句转换成SOLR的查询表达式，然后根据所述SOLR的查询表达式查询Solr单元的索引表，获取对应的索引数据；并，[0057] S4、根据获取的所述索引数据查询数据表，从而获得对应的所述查询结果；其中，所述数据表中存有全文检索的数据字段，所述索引表中存有根据所述全文检索的数据字段的描述所生成的倒排索引形式的索引数据；
[0058] S5、返回所述查询结果给用户。
[0059] 本实施例通过Solr单元支持分布式全文检索，用户可以为自己的表创建全文索引，并在SQL中使用全文检索语法进行搜索。该方式为二级索引的特殊扩展，，针对需要全文检索的字段不再将索引数据存储到另外的索引表中，而是将索引数据存储到Solr单元中，由Solr单元提供全文检索的功能。在查询数据时，会针对被全文索引的字段将其查询语句从SQL条件语句转换成SOLR的查询表达式再进行查询，并且将SOLR的返回结果转
化成通用数据格式再返回。
[0060] 进一步的，步骤S1还包括：将所述用户请求转化SQL语句形式的SQL请求。
[0061] 进一步的，步骤S2所述解析所述用户请求，编译以及生成对应的执行计划包括：
[0062] S21、判断共享缓存池中是否存在与所述SQL请求相对应的预存SQL语句，若是，则输出相对应的所述预存SQL语句对应的执行计划，若否，则，
[0063] S22、对所述SQL请求进行语法检查，若语法错误返回错误信息给用户，否则，[0064] S23、对所述SQL请求进行语义检查，若语义错误返回错误信息给用户，否则，[0065] S24、对所述SQL请求进行视图以及表达式转换，获得对应的转化结果；
[0066] S25、根据所述转换结果选择优化器，获得对应的优化器选择结果；
[0067] S26、根据所述优化器选择结果选择对应的数据连接方式以及连接顺序；
[0068] S27、根据连接方式和连接顺序选择搜索的路径；
[0069] S28、根据搜索路径生成执行计划，并输出执行计划。
[0070] 具体实施时，首先，以JDCB/ODBC的接口方式接入用户请求，其中，所述用户请求包括全文检索的查询条件；所述查询结果为根据所述查询条件所获得的查询结果；然后，解析所述用户请求，编译以及生成对应的执行计划；接着，根据所述执行计划，根据执行计划，将所述查询条件从SQL条件语句转换成SOLR的查询表达式，根据所述SOLR的查询表达式查询Solr单元的索引表，获取对应的索引数据；并，根据获取的所述索引数据查询数据表，从而获得对应的所述查询结果；其中，所述数据表中存有全文检索的数据字段，所述索引表中存有根据所述全文检索的数据字段的描述所生成的倒排索引形式的索引数据；最后，返回所述查询结果给用户。
[0071] 本实施例基于Solr单元实现全文检索，以支持分布式全文检索，支持用户非主键查询，满足用户全文检索的需求，提高用户体验。
[0072] 参见图2，图2是本发明实施例2还提供一种分布式NewSQL数据库系统，本实施例包括：
[0073] JDCB/ODBC接口单元1，用于与用户进行交互操作，包括接收用户请求，返回查询结果给用户；其中，所述用户请求包括全文检索的查询条件，所述查询结果为根据所述查询条件所获得的查询结果；
[0074] master单元2，用于接入JDCB/ODBC接口单元1所接入的用户请求，并协调多个处理器之间的数据通讯以及管理整体流程，并将所述用户请求优先发送给SQLPlaner单元3；master单元2还用于所述查询结果返回JDCB/ODBC接口单元1；
[0075] SQLPlaner单元3，用于解析所述用户请求，根据所述用户请求编译以及定制执行计划；
[0076] worker单元4，用于并行地执行所述计划，包括：将所述查询条件从SQL条件语句转换成SOLR的查询表达式，然后根据所述SOLR的查询表达式查询索引表，获取对应的索引数据；并根据获取的所述索引数据查询数据表，从而获得对应的所述查询结果；并返回查询结果至所述master单元；
[0077] Hbase单元6，用于储存所述数据表；其中，所述数据表中存有全文检索的数据字段；
[0078] Solr单元7，用于储存所述索引表；其中，所述索引表中存有由根据所述全文检索的数据字段的描述所生成的倒排索引形式的索引数据。
[0079] 通常，本实施例的分布式NewSQL数据库系统允许用户根据具体的业务逻辑灵活的建立二级索引，在实际应用中用户往往会建立多个二级索引，在使用时根据查询条件动态计算使用索引的代价，自动选择最合适的索引。针对rowkey的查询极为高效，因此二级索引的实现方式为利用Hbase单元6的Coprocessor模块61和Filter模块62生成针对数据的索引表。
[0080] 本实施例通过Solr单元7支持分布式全文检索，用户可以为自己的表创建全文索引，并在SQL中使用全文检索语法进行搜索。该方式为二级索引的特殊扩展，也是利用coprocessor模块61实现，针对需要全文检索的字段不再将索引数据存储到另外的索引表中，而是将索引数据存储到Solr单元7中，由Solr单元7提供全文检索的功能。在查询数据时，会针对被全文索引的字段将其查询语句从SQL条件语句转换成SOLR的查询表达式再进行查询，并且将SOLR的返回结果转化成通用数据格式再返回。
[0081] 分布式事务管理器5，用于当所述worker单元4执行计划涉及事务时，协调多方完成分布式事务管理。
[0082] 进一步的，JDCB/ODBC接口单元1还用于将所述用户请求转化SQL语句形式的SQL请求。
[0083] 进一步的，所述SQLPlaner单元3用于：
[0084] 判断共享缓存池中是否存在与所述SQL请求相对应的预存SQL语句，若是，则输出相对应的所述预存SQL语句对应的执行计划，若否，则，
[0085] 对所述SQL请求进行语法检查，若语法错误返回错误信息给用户，否则，[0086] 对所述SQL请求进行语义检查，若语义错误返回错误信息给用户，否则，[0087] 对所述SQL请求进行视图以及表达式转换，获得对应的转化结果；
[0088] 根据所述转换结果选择优化器，获得对应的优化器选择结果；
[0089] 根据所述优化器选择结果选择对应的数据连接方式以及连接顺序；
[0090] 根据连接方式和连接顺序选择搜索的路径；
[0091] 根据搜索路径生成执行计划，并输出执行计划。
[0092] 进一步的，本实施例还包括：
[0093] 监视器8，用于负责元数据管理，监控所述Hbase单元6的Region的负载，以及通过所述Hbase单元6的coprocessor模块61重新分配Region；所述监视器与所述master单元2连接。
[0094] 进一步的，所述监控所述Hbase单元6的Region的负载，以及通过所述Hbase单元6的coprocessor模块61重新分配Region包括：
[0095] 接收所述Hbase单元6的数据分布信息，接收所述master单元2中的所述worker单元4的负载信息，其中，所述负载信息包括所述worker单元的负载偏差值；
[0096] 将所述worker单元4的负载偏差值与预设负载偏差阈值进行比较，若判定所述负载偏差值超过阀值，触发所述Hbase单元6将命中率较高服务器上的Region和命中率较低服务器上的Region进行从新分配；
[0097] 获取每一Region的数据量，将每一所述Region的数据量与预设数据量阈值进行判断，若判定所述Region的数据量超过阀值，触发所述Hbase单元将超过预设数据量阈值的所述Region切分成两个。
[0098] 进一步的，所述JDCB/ODBC接口单元1包括：
[0099] JDBC应用程序模块11，用于接收用户请求，以及调用JDBC对象方法以给出SQL语句，并用于提取结果返回用户；
[0100] JDBC驱动程序管理器模块12，用于为所述JDBC应用程序模块11加载和调用JDBC驱动程序模块13；
[0101] JDBC驱动程序模块13，用于执行所述JDBC对象方法的调用，发送用户请求所对应的SQL语句给底层的数据库，并将从所述底层的数据库获得的结果返回给JDBC应用程序模块11。
[0102] 具体实施时，首先通过JDCB/ODBC接口单元1接收用户请求，通过master单元2接入JDCB/ODBC接口单元1所接入的用户请求，并将所述用户请求优先发送给SQLPlaner单元3；然后，通过SQLPlaner单元3解析所述用户请求，根据所述用户请求编译以及定制执行计划；
接着，通过worker单元4并行地执行所述计划：将所述查询条件从SQL条件语句转换成SOLR的查询表达式，根据所述SOLR的查询表达式查询索引表，获取对应的索引数据；并，根据获取的所述索引数据查询数据表，从而获得对应的所述查询结果；最后，通过worker单元4返回查询结果至master单元2，master单元2将查询结果返回JDCB/ODBC接口单元1以返回给用户。
[0103] 本实施例通过Solr单元实现全文检索，以支持分布式全文检索，支持用户非主键查询，满足用户全文检索的需求，提高用户体验。
[0104] 以上所述是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也视为本发明的保护范围。
