技术领域
[0001] 本
发明属于纳米
光子学和深度学习技术领域，具体涉及一种基于深度学习的纳米结构设计方法。
背景技术
[0002] 近年来，纳米
光子学领域通过在亚
波长结构上操纵光子与物质的相互作用，彻底改变了光学领域。然而，
纳米结构材料需要大量的人工制造，因此必须预先准确预测所设想的元表面的
光谱和结构。这就受限于复杂的
迭代过程，循环建模，纳米加工和纳米表征。其根本原因在于，在纳米尺度上描述这些光与物质相互作用的复杂物理机制不能用广义理论来解决，因此预测材料的光学性质和近似结构依赖于通过有限元建模(FEM)或时域有限差分(FDTD)方法实现的先进迭代计算。
[0003] 另外一方面，有更多显著的反向设计问题，即按照需求的
频谱响应设计出对应的纳米结构；这一类问题具有高度的非线性，即使最先进数值计算方法也几乎无法完成；与此同时，计算机科学得到了充分利用，以解决纳米光子成像中的挑战性任务如设计和表征。主要方法有：1.目标增强。2.衍射极限范围外的成像和表征(超
分辨率技术，如PALM和STORM技术)。而深度学习方法是一种由非线性模型组合而成的
表征学习技术，通过分层的方式将上一级的表征转化为更高、更抽象的层次。其中，进一步优化诸如浅层神经网络、进化
算法和线性回归已经在解决逆问题任务方面取得了一些成功。
[0004] 将深度学习方法与纳米光子学领域相结合是近几年来纳米结构设计新兴的技术。随着相关技术的进展，如表征技术、
纳米材料数据库的建设、
大数据、算
力以及数学算法等技术；相关研究者在超表面领域中对
纳米棒(nanorod)、纳米微球(nanosphere)、纳米棱镜(nanoprism)、纳米
薄膜(thin film)等方向都发表了研究成果。
[0005] Zhaocheng Liu等人在NANO LETTERS期刊发表了“Generative Model for the Inverse Design of Metasurfaces”，公布了使用生成对抗网络解决超颖表面(metasurface)方向的反向设计问题，Itzik Malkie等人发表了利用全连接神经网络解决纳米结构的反向设计问题；Dianjing Liu等人发表“Training Deep Neural Networks for the Inverse Design of Nanophotonic Structures”，以解决神经网络在纳米结构反向设计中难以收敛的问题。
人工智能技术用于设计和寻找纳米材料，正逐渐从
决策树、
支持向量机、线性回归、
随机森林、贝叶斯线性回归等传统
机器学习算法过渡到深度学习中的
人工神经网络技术中；已有的研究中网络模型已涉及全连接神经网络、
卷积神经网络、生成对抗网络等结构。
[0006] 深度学习应用于纳米结构的设计，关键在于如何建立
深度神经网络模型处理纳米结构的双向设计问题。深度学习需要大量的数据集以使网络学习研究对象所存在的函数关系，数据集很大程度决定了网络最终的能力，因此，怎样设计神经网络的数据集也显得十分重要。此外，本实验主要研究超颖表面(metasurface)纳米结构的设计，在该课题内不同形状的金属纳米颗粒的频谱响应有很大差距，选择怎样类别、性质的金属纳米颗粒进行研究将会对实验起着巨大影响。
[0007] 尽管深度学习技术有望给纳米材料科学带来革命性的变革，但是要取得丰硕的成果，依然面临许多技术的挑战。首先，仍然存在将训练成果实际应用的困难。由于大多数数据库都是专
门处理特定案例的，由于目标不匹配的问题，新的案例需要重新建立数据库。此外，
训练数据的
质量难以控制，因为纳米材料数据来自不同的研究机构和组织，或多或少会带来选择偏差和噪声模型的可解释性也是深度学习领域广泛讨论的问题，在纳米材料的设计中也显得十分关键。虽然深度学习在某些特定任务的表现已经超过人类，但是至今我们仍然很难理解模型是如何学习到这些知识的。在大部分的案例中，我们几乎无法知道模型是如何处理输入到输出或者网络的每一层学习到什么样的特定知识。这阻碍了研究人员将特定的知识迁移到其它相关任务中，尽管在纳米材料领域这些任务之间存在很大的相似性。因此，将深度学习应用与
等离子体纳米材料中仍需要在数据集建立、模型构建、模型通用性、模型可解释性等方面做更多实验和研究。
[0008] 纳米结构的设计、制造和表征的传统方法依赖于通过有限元建模(FEM)或时域有限差分(FDTD)方法进行大量迭代，设计者只能依照经验设计纳米结构并解该结构的麦克斯韦方程组，以得到其频谱响应。此外，在反向设计问题上，即按照设定的电磁响应推理出相应的纳米结构，是一项极具挑战性和耗时的任务。基于深度学习的纳米结构的设计，完全不同于传统的数值求解方法，一旦网络学习到有效的参数，纳米结构的设计将是一次性的且不再需要设计人员依照主观经验，通过大量实验寻找需求结构；它将极大地减小设计的时间成本、材料成本。
发明内容
[0009] 本发明要解决的技术问题在于，针对上述目前纳米结构的设计、制造和表征的传统方法耗时耗材的技术问题，提供一种基于深度学习的纳米结构设计方法解决上述技术
缺陷。
[0010] 一种基于深度学习的纳米结构设计方法，包括：
[0011] 步骤一、建立一个训练数据集，训练数据集中包含任意一种纳米结构信息，纳米结构信息包括纳米材料的几何形状和对应的X和Y两个极化方向的频谱和材料性质，几何形状通过8个纳米结构表征点来表示；
[0012] 步骤二、对训练数据集进行预处理，以将训练数据集中的数据进行转置和归一化；
[0013] 步骤三、构建频谱预测网络SPN和几何形状预测网络GPN；频谱预测网络SPN的输入是纳米材料的几何形状，输出是对应的X和Y两个极化方向的频谱；几何形状预测网络GPN的输入为X和Y两个极化方向的频谱和材料性质，输出是对应的纳米材料的几何形状；
[0014] 步骤四、将频谱预测网络SPN和几何形状预测网络GPN整合成一个神经网络模型，频谱预测网络SPN的输出连接几何形状预测网络GPN的输入，材料性质是每种等离子体的固定参数，直接给定；
[0015] 步骤五、使用预处理后的训练数据集对整合的神经网络模型进行训练，当损失函数达到预设值时，神经网络模型训练完成；
[0016] 步骤六：将待建立的纳米结构对应的X和Y两个极化方向的频谱和材料性质输入到训练完成的神经网络模型中，就可以得到纳米结构的8个纳米结构表征点，进而得到纳米结构的几何形状；待建立的等离子体与训练数据集中等离子体的种类相同。
[0017] 进一步的，在步骤一中，一种等离子体的几何形状对应一组X和Y两个极化方向的频谱，每种等离子体的材料性质是一个固定的参数。
[0018] 进一步的，8个纳米结构表征点具体包括：L0、L1分别表示二维平面上
纳米粒子的宽度和一侧的部分长度；Leg 1、leg 2、...leg 5分别表示纳米粒子的五条边，1表示该边存在，0表示该边不存在；φ表示边Leg 1的旋转
角度。
[0019] 进一步的，在步骤二中，使用torch库函数读取训练数据集并保存在张量数组里，并将训练数据集中的数据进行转置和归一化。
[0020] 进一步的，在步骤四中，在SPN中使用全连接残差网络，一个残差单元的函数关系如下：
[0021] yl＝h(xl)+F(xl,wl)(wl＝{wl,k|1≤k≤K})
[0022] xl+1＝f(yl)
[0023] yl表示第l个单元的输出，而xl为第l个输入；当我们令h(xl)＝xl,xl+1＝yl，最终可以计算出 即
中间层任意一个残差
节点的输入是由某浅层单元输入加上中间的全部映射值。
[0024] 进一步的，在步骤五中，训练过程具体包括：
[0025] S51、前向传播：几何形状预测网络GPN中，输入数据由三个张量(Tensor)组成，将输入数据先输入到并行网络中，然后全连接到一层，再连接节点数相同的
隐藏层，最终输出8个纳米结构表征点；
[0026] 频谱预测网络SPN网络模型中，网络的输入为GPN输出的8个纳米结构表征点，以及代表材料性质的25个数据点；为SPN的输入增加两个数据点，这两个点用于控制网络的输出，当这两个数据点为01时，网络预测的结果是
水平极化方向的透射谱，当这两个数据点为10时，网络的预测结果对应垂直极化方向的透射谱，以减小该神经网络需要存储的权重参数；
[0027] S52、计算loss：将网络的预测输出与期望值对比计算出损失值，采用均方误差作为损失函数：
[0028] Loss＝GPN_MSE(predictedGeometry，groundTruthGeometry)
[0029] 在整个批处理中为SPN创建一个双倍大小的批处理，然后通过向GPN输出提供数据，在SPN上执行前进，最后向后移动两个网络，计算每个网络的损耗，将损失相加并将其与两个网络的梯度一起发送给优化器，网络的损失函数如下：
[0030] Loss＝GPN_MSE(predictedGeometry，groundTruthGeometry+
[0031] SPNx_MSE(predictedSpetrumX，groundTruthSpectrumX)+
[0032] SPNy_MSE(predictedSpetrumY，groundTruthSpectrumY)；
[0033] S53、反向传播：在利用训练数据集训练时，根据梯度下降算法来更新前向传播时的权值与偏差；权值w更新为w-V，其中V为更新量，V＝dw*λ+V*momentum，为引入梯度后的更新量，从而使用反向传播的方法来更新每层的参数；
[0034] S54、更新参数：首先尝试同时更新SPN和GPN的权重参数，然后采用不对等的学习方式：先前向传播以及后向传播一次GPN、SPN；然后在后续的训练中，对于GPN，每个epoch中都执行前向传播，而每隔一定的epoch才执行一次后向传播；对于SPN，每个epoch都执行前向传播和后向传播。
附图说明
[0035] 下面将结合附图及
实施例对本发明作进一步说明，附图中：
[0036] 图1是本发明一种基于深度学习的纳米结构设计方法
流程图；
[0037] 图2是本发明实施例中的纳米颗粒形状及其结构示意图；
[0038] 图3是本发明实施例中的几何预测网络示意图；
[0039] 图4是本发明实施例中的频谱预测网络示意图；
[0040] 图5是本发明实施例中的残差网络的
基础结构图；
[0041] 图6是本发明实施例中的全连接残差网路结构图；
[0042] 图7是本发明实施例中的双向网络结构图。
具体实施方式
[0043] 为了对本发明的技术特征、目的和效果有更加清楚的理解，现对照附图详细说明本发明的具体实施方式。
[0044] 一种基于深度学习的纳米结构设计方法，如图1所示，包括：
[0045] 步骤一、建立一个训练数据集，训练数据集中包含任意一种纳米结构信息，纳米结构信息包括纳米材料的几何形状和对应的X和Y两个极化方向的频谱和材料性质，几何形状通过8个纳米结构表征点来表示；
[0046] 步骤二、对训练数据集进行预处理，以将训练数据集中的数据进行转置和归一化；
[0047] 步骤三、构建频谱预测网络SPN和几何形状预测网络GPN；频谱预测网络SPN的输入是纳米材料的几何形状，输出是对应的X和Y两个极化方向的频谱；几何形状预测网络GPN的输入为X和Y两个极化方向的频谱和材料性质，输出是对应的纳米材料的几何形状；
[0048] 步骤四、将频谱预测网络SPN和几何形状预测网络GPN整合成一个神经网络模型，频谱预测网络SPN的输出连接几何形状预测网络GPN的输入，材料性质是每种等离子体的固定参数，直接给定；
[0049] 步骤五、使用预处理后的训练数据集对整合的神经网络模型进行训练，当损失函数达到预设值时，神经网络模型训练完成；
[0050] 步骤六：将待建立的纳米结构对应的X和Y两个极化方向的频谱和材料性质输入到训练完成的神经网络模型中，就可以得到纳米结构的8个纳米结构表征点，进而得到纳米结构的几何形状；待建立的等离子体与训练数据集中等离子体的种类相同。
[0051] 在步骤一中，一种等离子体的几何形状对应一组X和Y两个极化方向的频谱，每种等离子体的材料性质是一个固定的参数。
[0052] 8个纳米结构表征点具体包括：L0、L1分别表示二维平面上纳米粒子的宽度和一侧的部分长度；Leg 1、leg 2、...leg 5分别表示纳米粒子的五条边，1表示该边存在，0表示该边不存在；φ表示边Leg 1的旋转角度。
[0053] 在步骤二中，使用torch库函数读取训练数据集并保存在张量数组里，并将训练数据集中的数据进行转置和归一化，训练数据集是一个矩阵数据集，转置是为了便于后续
数据处理。
[0054] 在步骤四中，在SPN中使用全连接残差网络，一个残差单元的函数关系如下：
[0055] yl＝h(xl)+F(xl,wl)(wl＝{wl,k|1≤k≤K})
[0056] xl+1＝f(yl)
[0057] yl表示第l个单元的输出，而xl为第l个输入；当我们令h(xl)＝xl,xl+1＝yl，最终可以计算出 即中间层任意一个残差节点的输入是由某浅层单元输入加上中间的全部映射值。
[0058] 在步骤五中，训练过程具体包括：
[0059] S51、前向传播：几何形状预测网络GPN中，输入数据由三个张量(Tensor)组成，将输入数据先输入到并行网络中，然后全连接到一层，再连接节点数相同的隐藏层，最终输出8个纳米结构表征点；
[0060] 频谱预测网络SPN网络模型中，网络的输入为GPN输出的8个纳米结构表征点，以及代表材料性质的25个数据点；为SPN的输入增加两个数据点，这两个点用于控制网络的输出，当这两个数据点为01时，网络预测的结果是水平极化方向的透射谱，当这两个数据点为10时，网络的预测结果对应垂直极化方向的透射谱，以减小该神经网络需要存储的权重参数；
[0061] S52、计算loss：将网络的预测输出与期望值对比计算出损失值，采用均方误差作为损失函数：
[0062] Loss＝GPN_MSE(predictedGeometry，groundTruthGeometry)
[0063] 在整个批处理中为SPN创建一个双倍大小的批处理，然后通过向GPN输出提供数据，在SPN上执行前进，最后向后移动两个网络，计算每个网络的损耗，将损失相加并将其与两个网络的梯度一起发送给优化器，网络的损失函数如下：
[0064] Loss＝GPN_MSE(predictedGeometry，groundTruthGeometry+
[0065] SPNx_MSE(predictedSpetrumX，groundTruthSpectrumX)+
[0066] SPNy_MSE(predictedSpetrumY，groundTruthSpectrumY)；
[0067] S53、反向传播：在利用训练数据集训练时，根据梯度下降算法来更新前向传播时的权值与偏差；权值w更新为w-V，其中V为更新量，V＝dw*λ+V*momentum，为引入梯度后的更新量，从而使用反向传播的方法来更新每层的参数；
[0068] S54、更新参数：首先尝试同时更新SPN和GPN的权重参数，然后采用不对等的学习方式：先前向传播以及后向传播一次GPN、SPN；然后在后续的训练中，对于GPN，每个epoch中都执行前向传播，而每隔一定的epoch才执行一次后向传播；对于SPN，每个epoch都执行前向传播和后向传播。
[0069] 本发明的实施例首先由FDTD仿真
软件对“H”簇的金纳米颗粒在输入场分别为X和Y两个极化方向得到频谱响应合成，如图2所示，数据集中采用了8个离散数据点表示纳米颗粒。L0、L1分别表示二维平面上纳米粒子的宽度和一侧的部分长度，Leg 1、leg 2、...leg 5分别表示纳米粒子的五条边，1表示该边存在，0表示该边不存在。φ表示边1的旋转角度。
[0070] 训练神经网络时，由于不同形状、性质的材料的透射谱数据之间相差较大，数据稀疏，选择adadelta优化方法。网络采用了全连接网络结构，由于输入数据是三个张量(Tensor)，因此将它们先输入到并行网络
块中，然后将三个网络块全连接到一层，再连接节点数相同的隐藏层，最终输出8个数据点，其网络结构示意图如图3。
[0071] 频谱预测网络(Spectrum-predicting-network)，用于预测纳米材料的频谱特性，网络的输入为代表几何形状的8个数据点，以及代表材料性质的25个数据点。在本实施例中，考虑了输入场两个极化方向的透射谱，因此，频谱预测网络的输出也应该是相应的两个透射谱，若直接输出，网络应该对应有84个数据点；为了减小网络的参数量，在该网络的输入增加两个数据点，这两个点用于控制网络的输出，如当输入的这两点为01时，网络预测的结果是水平极化方向的透射谱；这两点为10时，网络的预测结果对应垂直极化方向的透射谱。这样该神经网络需要存储的权重参数有一定程度的减小。频谱预测网络的模型示意图如图4。
[0072] 在频谱预测网络的设计中，网络层数超过10层后，模型性能严重下降，网络不收敛；于是，引入了残差网络，残差网络(ResNet)如图5所示，相当于将学习目标改变了，不再是学习一个完整的输出H(x)，只是输出和输入的差别H(x)-x，即残差。
[0073] 如图6所示，在SPN中使用全连接残差网络，中间任意一个残差节点的输入是是由某浅层单元输入加上中间的全部映射值。设残差网络的损失函数为ε，反向传播可计算得：
[0074]
[0075] 由上式可知，各层梯度不再是级联相乘，那么由联乘导致的梯度消失问题也就不再存在。
[0076] 虽然可以单独设计和训练两个网络，但是这样的训练可能会导致网络的不稳定；给定一对所需的频谱，GPN将提供几何结构，SPN提供其频谱。对于两个单独的网络，不能保证应用于预测几何的SPN预测的两个频谱将与原始频谱紧密匹配。因此，采用了将两个网络整合到一起进行学习训练的方法：训练一个包含SPN和GPN的网络，以便将它们一起优化，使网络可以相互适应。
[0077] 该双向网络结构如图7所示，在训练过程中，在GPN上执行一次前向传递，然后克隆输出，为每个实验创建两个查询，每个极化一个。这两个查询在极化标志中是不同的，表示对应的输入场极化方向。由于本实施例使用小批量学习，因此在整个批处理中执行它并为SPN创建一个双倍大小的批处理。然后通过向GPN输出提供数据，在SPN上执行前进。最后向后移动两个网络，计算每个网络的损耗，将损失相加并将其与两个网络的梯度一起发送给优化器。网络的损失函数如下：
[0078] Loss＝GPN_MSE(predictedGeometry,groundTruthGeometry+
[0079] SPNx_MSE(predictedSpetrumX,groundTruthSpectrumX)+
[0080] SPNy_MSE(predictedSpetrumY,groundTruthSpectrumY)。
[0081] 上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和
权利要求所保护的范围情况下，还可做出很多形式，这些均属于本发明的保护之内。
