技术领域
[0001] 本
说明书一个或多个
实施例涉及计算机领域，尤其涉及基于图神经网络模型的节点表示方法和装置。
背景技术
[0002] 当前，图神经网络模型在生产、生活的各个领域都得到了广泛的应用。其中，图神经网络模型是一种在图结构数据上聚合信息并生成节点表示的深度模型，图神经网络模型在经过表示学习后，可以将关系网络图中的节点映射为低维向量。
[0003]
现有技术的基于图神经网络模型的节点表示方法中，由于关系网络图中可能存在信息缺失，以及误差的因素，生成的节点表示往往无法准确表征该节点，相应影响根据该节点表示的后续应用。
[0004] 因此，希望能有改进的方案，能够提升基于图神经网络模型的节点表示的准确性。
发明内容
[0005] 本说明书一个或多个实施例描述了一种基于图神经网络模型的节点表示方法和装置，能够提升基于图神经网络模型的节点表示的准确性。
[0006] 第一方面，提供了一种基于图神经网络模型的节点表示方法，方法包括：
[0007] 获取动态变化的关系网络图在多个时间切片中对应的多个图结构，以及基于所述多个图结构分别训练的多个图神经网络模型；
[0008] 从所述多个图结构中，分别提取目标节点对应于所述多个时间切片的多个子图；
[0009] 将所述多个子图对应输入到所述多个图神经网络模型，得到所述目标节点对应于所述多个时间切片的多个节点嵌入向量；
[0010] 通过基于时序的神经网络模型，融合所述多个节点嵌入向量，得到所述目标节点的融合向量。
[0011] 在一种可能的实施方式中，所述得到所述目标节点的融合向量之后，所述方法还包括：
[0012] 根据所述目标节点的融合向量，确定所述目标节点的类别。
[0013] 在一种可能的实施方式中，所述关系网络图包括第一节点，在所述多个图结构中，所述第一节点具有不同的节点特征，和/或，所述第一节点具有不同的邻居节点。
[0014] 在一种可能的实施方式中，所述从所述多个图结构中，分别提取目标节点对应于所述多个时间切片的多个子图，包括：
[0015] 从所述多个图结构中，按照与所述目标节点具有连接关系，且满足经过的连接边的数目不超过预设
阈值提取所述目标节点的各关联节点；
[0016] 提取所述目标节点、所述各关联节点，以及所述图结构中连接所述目标节点与所述各关联节点的各连接边，得到所述目标节点对应于所述多个时间切片的多个子图。
[0017] 在一种可能的实施方式中，所述通过基于时序的神经网络模型，融合所述多个节点嵌入向量，得到所述目标节点的融合向量，包括：
[0018] 针对所述多个时间切片中的任意两个相邻时间切片，确定所述任意两个相邻时间切片对应的子图的差异向量；
[0019] 对于所述多个时间切片中的每个时间切片，将所述目标节点对应于该时间切片的节点嵌入向量，以及该时间切片与上一个时间切片对应的子图的差异向量构成向量组，将多个时间切片对应的向量组按照时间切片的顺序依次输入基于时序的第一神经网络，将第一神经网络处理各个向量组后得到的隐向量作为对应时间切片的初始融合向量；
[0020] 将所述目标节点对应于各时间切片的各初始融合向量，利用第二神经网络进行融合处理，得到所述目标节点的融合向量。
[0021] 进一步地，所述针对所述多个时间切片中的任意两个相邻时间切片，确定所述任意两个相邻时间切片对应的子图的差异向量，包括：
[0022] 根据所述目标节点对应于任意两个相邻时间切片的两个节点嵌入向量的差，得到所述差异向量。
[0023] 进一步地，所述针对所述多个时间切片中的任意两个相邻时间切片，确定所述任意两个相邻时间切片对应的子图的差异向量，包括：
[0024] 将所述目标节点对应于任意两个相邻时间切片的两个节点嵌入向量输入第三神经网络，通过所述第三神经网络输出所述差异向量。
[0025] 进一步地，当目标时间切片在所述多个时间切片中按照时序先后为第一个时间切片时，所述目标时间切片与上一个时间切片对应的子图的差异向量为预设向量。
[0026] 进一步地，所述第一神经网络包括长短期记忆(long short-term memory，LSTM)网络。
[0027] 进一步地，所述第二神经网络包括多层
感知器(multilayer perceptron，MLP)网络。
[0028] 在一种可能的实施方式中，所述关系网络图包括多个节点和节点之间的连接边，所述节点代表用户，具有连接边的两个用户之间具有关联关系。
[0029] 第二方面，提供了一种基于图神经网络模型的节点表示装置，装置包括：
[0030] 获取单元，用于获取动态变化的关系网络图在多个时间切片中对应的多个图结构，以及基于所述多个图结构分别训练的多个图神经网络模型；
[0031] 提取单元，用于从所述获取单元获取的多个图结构中，分别提取目标节点对应于所述多个时间切片的多个子图；
[0032] 嵌入单元，用于将所述提取单元提取的多个子图对应输入到所述获取单元获取的多个图神经网络模型，得到所述目标节点对应于所述多个时间切片的多个节点嵌入向量；
[0033] 融合单元，用于通过基于时序的神经网络模型，融合所述嵌入单元得到的多个节点嵌入向量，得到所述目标节点的融合向量。
[0034] 第三方面，提供了一种计算机可读存储介质，其上存储有
计算机程序，当所述计算机程序在计算机中执行时，令计算机执行第一方面的方法。
[0035] 第四方面，提供了一种计算设备，包括
存储器和处理器，所述存储器中存储有可执行代码，所述处理器执行所述可执行代码时，实现第一方面的方法。
[0036] 通过本说明书实施例提供的方法和装置，针对动态变化的关系网络图不是仅获取最近的时间切片对应的图结构，以及基于该图结构训练的图神经网络模型，而是获取在多个时间切片中对应的多个图结构，以及基于所述多个图结构分别训练的多个图神经网络模型；然后从所述多个图结构中，分别提取目标节点对应于所述多个时间切片的多个子图；接着将所述多个子图对应输入到所述多个图神经网络模型，得到所述目标节点对应于所述多个时间切片的多个节点嵌入向量；最后通过基于时序的神经网络模型，融合所述多个节点嵌入向量，得到所述目标节点的融合向量。由上可见，本说明书实施例，对各个时间切片的信息进行了综合利用，一方面，有效的利用好更多的信息可以提高节点表示的
精度，另一方面，可以消除一些误差的因素，并且当前时间切片的缺失信息可以由之前的时间切片的信息来弥补，从而能够提升基于图神经网络模型的节点表示的准确性。
附图说明
[0037] 为了更清楚地说明本发明实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
[0038] 图1为本说明书披露的一个实施例的实施场景示意图；
[0039] 图2示出根据一个实施例的基于图神经网络模型的节点表示方法
流程图；
[0040] 图3示出根据一个实施例的基于图神经网络模型的图处理过程示意图；
[0041] 图4示出根据一个实施例的基于图神经网络模型的节点表示装置的示意性
框图。
具体实施方式
[0042] 下面结合附图，对本说明书提供的方案进行描述。
[0043] 图1为本说明书披露的一个实施例的实施场景示意图。该实施场景涉及基于图神经网络(graph neural network，GNN)模型的节点表示，具体地，涉及动态变化的关系网络图中的节点表示。动态变化的关系网络图，是一种结构和特征会沿着时间点进行变化的图。参照图1，示出了图结构随时间变化的关系网络图，对应于时间切片T的图结构中，节点3和节点4之间具有连接边，节点3和节点2之间不具有连接边；对应于时间切片T-1的图结构中，节点3和节点4之间不具有连接边，节点3和节点2之间具有连接边。本说明书实施例，动态变化的关系网络图不仅可以体现在图结构随时间发生变化，还可以体现在节点特征和/或连接边的边特征随时间发生变化。
[0044] 本说明书实施例，对于时间切片的时间跨度不做限定，例如，可以为1个月、1周或1个季度等。
[0045] 图2示出根据一个实施例的基于图神经网络模型的节点表示方法流程图，该方法可以基于图1所示的实施场景。如图2所示，该实施例中基于图神经网络模型的节点表示方法包括以下步骤：步骤21，获取动态变化的关系网络图在多个时间切片中对应的多个图结构，以及基于所述多个图结构分别训练的多个图神经网络模型；步骤22，从所述多个图结构中，分别提取目标节点对应于所述多个时间切片的多个子图；步骤23，将所述多个子图对应输入到所述多个图神经网络模型，得到所述目标节点对应于所述多个时间切片的多个节点嵌入向量；步骤24，通过基于时序的神经网络模型，融合所述多个节点嵌入向量，得到所述目标节点的融合向量。下面描述以上各个步骤的具体执行方式。
[0046] 首先在步骤21，获取动态变化的关系网络图在多个时间切片中对应的多个图结构，以及基于所述多个图结构分别训练的多个图神经网络模型。可以理解的是，上述多个时间切片的数量和每个时间切片的时间跨度均可以预先设定，例如，可以预先设定获取动态变化的关系网络图在最近的3个时间切片中分别对应的图结构，每个时间切片的时间跨度为1个月，也就是说，获取动态变化的关系网络图在1个月前对应的图结构、2个月前对应的图结构和3个月前对应的图结构。针对每个图结构分别训练一个图神经网络模型。
[0047] 在一个示例中，所述关系网络图包括第一节点，在所述多个图结构中，所述第一节点具有不同的节点特征，和/或，所述第一节点具有不同的邻居节点。
[0048] 在一个示例中，所述关系网络图包括多个节点和节点之间的连接边，所述节点代表用户，具有连接边的两个用户之间具有关联关系。例如，所述关系网络图对应通讯录网络，若用户A的通讯录中包括用户B的联系方式，则用户A和用户B之间具有关联关系，可以理解的是，用户在不同时间切片的邻居节点可能不同，用户的特征以及其邻居节点的特征也可能随着时间切片的推进而演化。
[0049] 在一个示例中，可以将多个图结构中的任一图结构作为目标图结构，通过以下方式训练对应的图神经网络模型：
[0050] 确定目标图结构中各个节点的节点特征，各个连接边的边特征；
[0051] 基于所述节点特征确定各个节点的初级
迭代的节点嵌入向量；
[0052] 执行多级向量迭代，以确定各个节点的多级迭代的节点嵌入向量，其中所述多级向量迭代的每级向量迭代包括，对于各个节点，至少基于该节点的邻居节点的上一级迭代的节点嵌入向量、连接该节点的连接边的边
特征向量，以及参数集，确定该节点的本级迭代的节点嵌入向量；
[0053] 利用训练样本及对应的标签值，基于该训练样本的多级迭代的节点嵌入向量，确定该训练样本对应的预测值；
[0054] 调整所述参数集中的参数值，使得预定义的损失函数的函数值达到最小，其中所述损失函数的函数值基于该训练样本对应的预测值和标签值而确定。
[0055] 然后在步骤22，从所述多个图结构中，分别提取目标节点对应于所述多个时间切片的多个子图。可以理解的是，图结构对应一个时间切片，从该图结构中提取的子图也对应该时间切片。
[0056] 例如，表一为图结构、时间切片与子图的对应关系表。
[0057] 表一：图结构、时间切片与子图的对应关系表
[0058]图结构 时间切片 子图
图结构1 时间切片1 子图1
图结构2 时间切片2 子图2
图结构3 时间切片3 子图3
[0059] 参照表一，动态变化的关系网络图在时间切片1对应图结构1，从图结构1，提取目标节点对应于时间切片1的子图1；动态变化的关系网络图在时间切片2对应图结构2，从图结构2，提取目标节点对应于时间切片2的子图2；动态变化的关系网络图在时间切片3对应图结构3，从图结构3，提取目标节点对应于时间切片3的子图3。
[0060] 在一个示例中，从所述多个图结构中，按照与所述目标节点具有连接关系，且满足经过的连接边的数目不超过预设阈值提取所述目标节点的各关联节点；提取所述目标节点、所述各关联节点，以及所述图结构中连接所述目标节点与所述各关联节点的各连接边，得到所述目标节点对应于所述多个时间切片的多个子图。可以理解的是，通常的图结构很复杂，为了得到目标节点的节点表示，只需提取与目标节点关联比较密切的子图。
[0061] 接着在步骤23，将所述多个子图对应输入到所述多个图神经网络模型，得到所述目标节点对应于所述多个时间切片的多个节点嵌入向量。可以理解的是，各子图、各图神经网络模型、以及目标节点的各节点嵌入向量均与时间切片一一对应。
[0062] 举例来说，图神经网络模型1为基于时间切片1对应的图结构1训练的，子图1为从图结构1中提取的，将子图1输入到图神经网络模型1，得到目标节点对应于时间切片1的节点嵌入向量1；图神经网络模型2为基于时间切片2对应的图结构2训练的，子图2为从图结构2中提取的，将子图2输入到图神经网络模型2，得到目标节点对应于时间切片2的节点嵌入向量2；图神经网络模型3为基于时间切片3对应的图结构3训练的，子图3为从图结构3中提取的，将子图3输入到图神经网络模型3，得到目标节点对应于时间切片3的节点嵌入向量3。
[0063] 最后在步骤24，通过基于时序的神经网络模型，融合所述多个节点嵌入向量，得到所述目标节点的融合向量。本说明书实施例，基于时序特征融合各节点嵌入向量得到融合向量，融合向量可以更准确的表征目标节点。
[0064] 在一个示例中，针对所述多个时间切片中的任意两个相邻时间切片，确定所述任意两个相邻时间切片对应的子图的差异向量；对于所述多个时间切片中的每个时间切片，将所述目标节点对应于该时间切片的节点嵌入向量，以及该时间切片与上一个时间切片对应的子图的差异向量构成向量组，将多个时间切片对应的向量组按照时间切片的顺序依次输入基于时序的第一神经网络，将第一神经网络处理各个向量组后得到的隐向量作为对应时间切片的初始融合向量；将所述目标节点对应于各时间切片的各初始融合向量，利用第二神经网络进行融合处理，得到所述目标节点的融合向量。该示例，通过差异向量对图结构的差异性进行了显式的刻画，并将节点嵌入向量和差异向量进行融合，以提高节点表示的准确性。
[0065] 进一步地，作为一种可选的实施方式，可以根据所述目标节点对应于任意两个相邻时间切片的两个节点嵌入向量的差，得到所述差异向量。
[0066] 进一步地，作为另一种可选的实施方式，可以将所述目标节点对应于任意两个相邻时间切片的两个节点嵌入向量输入第三神经网络，通过所述第三神经网络输出所述差异向量。
[0067] 需要说明的是，还可以采用其他的方式确
定子图的差异向量，例如，不采用前述确定好的节点嵌入向量，而是采取其他的方式对子图进行汇聚，得到汇聚向量，基于该汇聚向量确定子图的差异向量。
[0068] 进一步地，当目标时间切片在所述多个时间切片中按照时序先后为第一个时间切片时，所述目标时间切片与上一个时间切片对应的子图的差异向量为预设向量。
[0069] 进一步地，所述第一神经网络包括长短期记忆(long short-term memory，LSTM)网络。
[0070] 进一步地，所述第二神经网络包括
多层感知器(multilayer perceptron，MLP)网络。
[0071] 在一个示例中，步骤24之后，还可以根据所述目标节点的融合向量，确定所述目标节点的类别。例如，通过目标节点的类别指示目标节点对应的用户是否有逾期还款
风险。本说明书实施例提供的方法，通过综合多个时间片的信息进行节点表示，有利于提高分类的准确性。
[0072] 图3示出根据一个实施例的基于图神经网络模型的图处理过程示意图，参照图3，首先获取带时间戳的关系网络图，然后针对目标节点在不同时间切片下
抽取子图(T，T-1，(T) (T-1) (T-2)T-2)，利用在不同的时间切片下分别训练的GNN 、GNN 和GNN ，分别获得目标节点在各时间片下的节点嵌入向量。接着利用相似性模
块，来获得目标节点在相邻时间片中构造的子图的差异向量。再通过LSTM层融合各个时间片下的节点表示,LSTM单元在每个时间片上获得两个输入，一个是目标节点在该时间片上的节点嵌入向量，另一个则是当前时间片上的子图和上一个时间片的子图的差异向量。最后获得LSTM的各时序输出后，可以利用MLP层来融合各时序输出，得到融合向量，根据该融合向量来预测目标用户的用户标签。
[0073] 本说明书实施例将动态变化的关系网络图按照时间片进行分割，然后使用LSTM来对各时间片的节点嵌入向量进行融合，通过端到端的模型，可以有效利用时序特征来提高预测的性能。
[0074] 根据另一方面的实施例，还提供一种基于图神经网络模型的节点表示装置，该装置用于执行本说明书实施例提供的基于图神经网络模型的节点表示方法。图4示出根据一个实施例的基于图神经网络模型的节点表示装置的示意性框图。如图4所示，该装置400包括：
[0075] 获取单元41，用于获取动态变化的关系网络图在多个时间切片中对应的多个图结构，以及基于所述多个图结构分别训练的多个图神经网络模型；
[0076] 提取单元42，用于从所述获取单元41获取的多个图结构中，分别提取目标节点对应于所述多个时间切片的多个子图；
[0077] 嵌入单元43，用于将所述提取单元42提取的多个子图对应输入到所述获取单元获取的多个图神经网络模型，得到所述目标节点对应于所述多个时间切片的多个节点嵌入向量；
[0078] 融合单元44，用于通过基于时序的神经网络模型，融合所述嵌入单元43得到的多个节点嵌入向量，得到所述目标节点的融合向量。
[0079] 可选地，作为一个实施例，所述装置还包括：
[0080] 分类单元，用于在所述融合单元44得到所述目标节点的融合向量之后，根据所述目标节点的融合向量，确定所述目标节点的类别。
[0081] 可选地，作为一个实施例，所述关系网络图包括第一节点，在所述多个图结构中，所述第一节点具有不同的节点特征，和/或，所述第一节点具有不同的邻居节点。
[0082] 可选地，作为一个实施例，所述提取单元42，具体用于：
[0083] 从所述多个图结构中，按照与所述目标节点具有连接关系，且满足经过的连接边的数目不超过预设阈值提取所述目标节点的各关联节点；
[0084] 提取所述目标节点、所述各关联节点，以及所述图结构中连接所述目标节点与所述各关联节点的各连接边，得到所述目标节点对应于所述多个时间切片的多个子图。
[0085] 可选地，作为一个实施例，所述融合单元44，包括：
[0086] 确定子单元，用于针对所述多个时间切片中的任意两个相邻时间切片，确定所述任意两个相邻时间切片对应的子图的差异向量；
[0087] 第一融合子单元，用于对于所述多个时间切片中的每个时间切片，将所述目标节点对应于该时间切片的节点嵌入向量，以及所述确定子单元确定的该时间切片与上一个时间切片对应的子图的差异向量构成向量组，将多个时间切片对应的向量组按照时间切片的顺序依次输入基于时序的第一神经网络，将第一神经网络处理各个向量组后得到的隐向量作为对应时间切片的初始融合向量；
[0088] 第二融合子单元，用于将所述第一融合子单元得到的所述目标节点对应于各时间切片的各初始融合向量，利用第二神经网络进行融合处理，得到所述目标节点的融合向量。
[0089] 进一步地，所述确定子单元，具体用于根据所述目标节点对应于任意两个相邻时间切片的两个节点嵌入向量的差，得到所述差异向量。
[0090] 进一步地，所述确定子单元，具体用于将所述目标节点对应于任意两个相邻时间切片的两个节点嵌入向量输入第三神经网络，通过所述第三神经网络输出所述差异向量。
[0091] 进一步地，当目标时间切片在所述多个时间切片中按照时序先后为第一个时间切片时，所述目标时间切片与上一个时间切片对应的子图的差异向量为预设向量。
[0092] 进一步地，所述第一神经网络包括长短期记忆LSTM网络。
[0093] 进一步地，所述第二神经网络包括多层感知器MLP网络。
[0094] 可选地，作为一个实施例，所述关系网络图包括多个节点和节点之间的连接边，所述节点代表用户，具有连接边的两个用户之间具有关联关系。
[0095] 通过本说明书实施例提供的装置，获取单元41针对动态变化的关系网络图不是仅获取最近的时间切片对应的图结构，以及基于该图结构训练的图神经网络模型，而是获取在多个时间切片中对应的多个图结构，以及基于所述多个图结构分别训练的多个图神经网络模型；然后提取单元42从所述多个图结构中，分别提取目标节点对应于所述多个时间切片的多个子图；接着嵌入单元43将所述多个子图对应输入到所述多个图神经网络模型，得到所述目标节点对应于所述多个时间切片的多个节点嵌入向量；最后融合单元44通过基于时序的神经网络模型，融合所述多个节点嵌入向量，得到所述目标节点的融合向量。由上可见，本说明书实施例，对各个时间切片的信息进行了综合利用，一方面，有效的利用好更多的信息可以提高节点表示的精度，另一方面，可以消除一些误差的因素，并且当前时间切片的缺失信息可以由之前的时间切片的信息来弥补，从而能够提升基于图神经网络模型的节点表示的准确性。
[0096] 根据另一方面的实施例，还提供一种计算机可读存储介质，其上存储有计算机程序，当所述计算机程序在计算机中执行时，令计算机执行结合图2所描述的方法。
[0097] 根据再一方面的实施例，还提供一种计算设备，包括存储器和处理器，所述存储器中存储有可执行代码，所述处理器执行所述可执行代码时，实现结合图2所描述的方法。
[0098] 本领域技术人员应该可以意识到，在上述一个或多个示例中，本发明所描述的功能可以用
硬件、
软件、
固件或它们的任意组合来实现。当使用软件实现时，可以将这些功能存储在计算机可读介质中或者作为计算机可读介质上的一个或多个指令或代码进行传输。
[0099] 以上所述的具体实施方式，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施方式而已，并不用于限定本发明的保护范围，凡在本发明的技术方案的
基础之上，所做的任何
修改、等同替换、改进等，均应包括在本发明的保护范围之内。
