首页 / 技术领域 / 梯度下降法 / 专利数据
序号 专利名 申请号 申请日 公开(公告)号 公开(公告)日 发明人
1 一种节点加速梯度下降定位方法 CN201810068685.1 2018-01-24 CN108322933B 2020-04-07 秦宁宁; 陈肯
发明提供一种节点加速梯度下降定位方法,属于网络定位领域。本方法引入迭代思想,不断更新寻优动量,以达到损失函数最小,从而求取对应的未知基站坐标,通过增设阈值,降低了算法陷入局部最优的概率。经仿真比较分析,本发明的节点加速梯度下降定位方法相对于粒子群算法与随机梯度法,在定位精度与效率上有着较为明显的优势。
2 一种梯度下降宽度学习系统实现方法 CN201910773986.9 2019-08-21 CN110490324A 2019-11-22 刘然; 刘亚琼; 田逢春; 钱君辉; 郑杨婷; 赵洋; 陈希; 崔珊珊; 王斐斐
发明提供一种梯度下降宽度学习系统实现方法,梯度下降宽度学习系统由特征层、增强层和输出层三个密集层和一个合并层构成,特征层使用随机映射将输入数据映射为映射特征以形成特征节点,增强层对特征层输出的映射特征进行增强以形成增强节点,合并层将特征节点和增强节点的输出进行合并后作为一个整体输入到输出层,输出层将合并层的输出进行映射成网络最终的输出,训练时小批量训练样本被不断输入梯度下降宽度学习系统,梯度下降宽度学习系统采用梯度下降法来更新网络的权重,使均方误差MSE损失函数的损失逐渐减小。本方法实现的梯度下降宽度学习系统在不断进行小批量训练样本训练时,能够明显提升分批训练时的回归性能,可应用于回归任务。
3 用于执行随机梯度下降的装置和方法 CN201410601799.X 2014-10-31 CN105630739A 2016-06-01 石自强; 刘汝杰
发明涉及一种用于执行随机梯度下降的装置和方法。该装置包括:初始化单元,被配置为初始化与目标函数的平滑度信息有关的通用常量和预定精度迭代单元,被配置为随机选取与训练集中的特定样本相关的分量损失函数来进行迭代,以根据所述通用常量和所述预定精度更新每次迭代的中间解,使得所述中间解更接近真实解;输出单元,被配置为在执行完所有迭代之后,输出所有中间解的加权平均作为最终解。
4 一种基于梯度下降的快速gamma矫正方法 CN202311251923.X 2023-09-26 CN116994515B 2023-12-12 秦良; 孙斐; 吴樟福
发明提出了一种使用了梯度下降并辅以插值、拟合等方法快速逼近并找出符合gamma曲线条件的对应电压值的方法,且本方法不仅可以用来解决gamma曲线测量,其他类似的问题都可以用同样的方法解决,只需要提供目标以及初始输入即可。
5 一种基于梯度下降的快速gamma矫正方法 CN202311251923.X 2023-09-26 CN116994515A 2023-11-03 秦良; 孙斐; 吴樟福
发明提出了一种使用了梯度下降并辅以插值、拟合等方法快速逼近并找出符合gamma曲线条件的对应电压值的方法,且本方法不仅可以用来解决gamma曲线测量,其他类似的问题都可以用同样的方法解决,只需要提供目标以及初始输入即可。
6 基于梯度下降的离线定位方法 CN201610510376.6 2016-06-30 CN106125044B 2018-11-16 李扬; 熊思捷; 主苏杰; 田晓华; 王新兵
发明提供的一种基于梯度下降的离线定位方法,其通过持续测量用户所在位置各个WiFi接入点的信号强度,运用梯度滤波算法对测量的RSS进行滤波处理,滤去非正常变化的RSSI值,再使用这些处理过的RSSI值应用梯度下降算法得到用户的位置,能够提高定位精度
7 一种节点加速梯度下降定位方法 CN201810068685.1 2018-01-24 CN108322933A 2018-07-24 秦宁宁; 陈肯
发明提供一种节点加速梯度下降定位方法,属于网络定位领域。本方法引入迭代思想,不断更新寻优动量,以达到损失函数最小,从而求取对应的未知基站坐标,通过增设阈值,降低了算法陷入局部最优的概率。经仿真比较分析,本发明的节点加速梯度下降定位方法相对于粒子群算法与随机梯度法,在定位精度与效率上有着较为明显的优势。
8 一种基于次梯度下降的资源分配方法 CN202310518982.2 2023-05-09 CN116489713A 2023-07-25 杨静; 周荣松; 李职杜; 唐桐; 吴大鹏; 王汝言
发明涉及一种基于次梯度下降的资源分配方法,属于无线通信领域。该方法首先,对用户设备在移动过程中的位置进行二维建模,确定了用户设备在移动过程中的信道增益;其次,对用户设备在使用数字孪生业务的时延进行建模,分别包括本地处理时延、上行传输时延、边缘服务器计算时延以及下行传输时延,得到总的用户设备时延;最后,对时延问题进行分解证明,构建优化函数的拉格朗日对偶函数,采用次梯度更新策略进行求解,输出任务卸载比例、上下行传输功率、边缘服务器计算能以及总用户设备时延。本发明可以提高计算资源的有效利用率,大幅降低用户设备的数字孪生应用时延。
9 一种分布式随机梯度下降方法 CN201911041774.8 2019-10-30 CN110929878B 2023-07-04 杨恺; 张春炯; 王钰皓
发明涉及一种分布式随机梯度下降方法,包括以下步骤:步骤S1:参数服务器得到初始全局梯度;步骤S2:基于初始全局梯度和工作节点的初始任务分配策略,工作节点计算得到工作节点梯度;步骤S3:参数服务器得到工作节点梯度,并进行计算得到更新全局梯度;步骤S4:参数服务器基于更新全局梯度和链技术,得到最优梯度和工作节点的更新任务分配策略;步骤S5:最优梯度保存于工作节点的参数缓存中;步骤S6:更新任务分配策略替代初始任务分配策略,最优梯度替代初始全局梯度,重复步骤S2‑S6直至权重收敛。与现有技术相比,避免收集到较差的模型参数,加速了模型的收敛速度,缩短了全程训练时间。
10 一种分布式随机梯度下降方法 CN201911041774.8 2019-10-30 CN110929878A 2020-03-27 杨恺; 张春炯; 王钰皓
发明涉及一种分布式随机梯度下降方法,包括以下步骤:步骤S1:参数服务器得到初始全局梯度;步骤S2:基于初始全局梯度和工作节点的初始任务分配策略,工作节点计算得到工作节点梯度;步骤S3:参数服务器得到工作节点梯度,并进行计算得到更新全局梯度;步骤S4:参数服务器基于更新全局梯度和链技术,得到最优梯度和工作节点的更新任务分配策略;步骤S5:最优梯度保存于工作节点的参数缓存中;步骤S6:更新任务分配策略替代初始任务分配策略,最优梯度替代初始全局梯度,重复步骤S2-S6直至权重收敛。与现有技术相比,避免收集到较差的模型参数,加速了模型的收敛速度,缩短了全程训练时间。
11 一种去中心化的随机梯度下降的方法 CN201811309202.9 2018-11-05 CN109492753A 2019-03-19 蒋一帆; 吴维刚
发明公开了一种去中心化的随机梯度下降的方法,将传统的分布式深度学习框架中的传统的中心化并行随机梯度下降方法改进为去中心化并行随机梯度下降方法进行训练,将中心服务器节点去掉,剩余工作节点与相邻工作节点通讯进行本地模型训练和参数更新,通过多工作节点多次训练来对参数不断调优最终得到局部最优解,从而完成分布式深度学习。
12 基于梯度下降的离线定位方法 CN201610510376.6 2016-06-30 CN106125044A 2016-11-16 李扬; 熊思捷; 主苏杰; 田晓华; 王新兵
发明提供的一种基于梯度下降的离线定位方法,其通过持续测量用户所在位置各个WiFi接入点的信号强度,运用梯度滤波算法对测量的RSS进行滤波处理,滤去非正常变化的RSSI值,再使用这些处理过的RSSI值应用梯度下降算法得到用户的位置,能够提高定位精度
13 基于随机梯度下降回归算法的全波形反演方法 CN202210287957.3 2022-03-23 CN116840890A 2023-10-03 曲志鹏; 朱剑兵; 王兴谋; 梁鸿贤; 姜蕾; 徐宏斌; 刘鸽
发明提供一种基于随机梯度下降法的全波形反演目标函数优化算法,包括:步骤1,确定初始模型;步骤2,对初始模型进行正演分析;步骤3:测算正演后得到的模拟数据和观测数据的差值,计算目标函数;步骤4:对正演结果和观测结果之间定义的目标函数使用伴随状态法构造梯度;步骤5:借由得到的梯度使用随机梯度下降法对初始模型进行优化;步骤6:重复步骤2、3、4、5直到模型收敛。该基于随机梯度下降法的全波形反演优化算法借助了随机梯度下降法通过使用随机梯度下降优化算法对全局最优解的搜索能,提高了全波形反演优化过程的精度,提高了对局部极值问题的抵抗能力。
14 基于梯度下降法的无人机路径规划方法及系统 CN202310280932.5 2023-03-17 CN116203990A 2023-06-02 刘允刚; 张敏; 满永超; 李峰忠
发明属于路径规划技术领域,提供了一种基于梯度下降法的无人机路径规划方法及系统,以全局初始路径为基础,进行B样条曲线拟合,得到B样条函数的初始控制点,引入速度调节因子,将控制点作为决策变量,利用梯度下降法求得最优路径,利用控制点的几何位置关系近似表示曲线的弧度,使得速度便于控制,不会增加大量的计算负担,通过速度调节因子,实现了适应于轨迹弧度的速度动态调节,避免了出现急转弯的现象,提高了规划安全性;同时,在最优路径中进行碰撞检测,如果发生碰撞的次数大于预次数时,则在障碍物附近选取一个临时中间目标点,将临时中间目标点更换为目标点,重新进行路径规划,得到最终的全局最优路径,通过改变对无人机的引导方向,使得所规划的路径不会陷入局部极小值。
15 基于梯度下降法的矩形波导管仿真设计方法 CN202210563171.X 2022-05-19 CN114756998A 2022-07-15 胡辉; 齐斌; 赵钰帆; 王玥
发明公开的基于梯度下降法的矩形波导管仿真设计方法,具体为:步骤1:利用COMSOL软件对矩形波导管建模;步骤2:将数据库进行预处理,其中80%为测试集数据,20%训练集数据;步骤3:使用python软件搭建BP神经网络模型;步骤4:将测试集数据和训练集数据进归一化处理;步骤5:构造一个类用来定义神经网络模型;步骤6:使用实例化之前编写的类定义的神经网络;步骤7:进行数据的训练;步骤8:在每一次的训练完成之后,使用之前分配好的测试集;步骤9:当神经网络模型训练好之后,在python软件中输入矩形波导管的结构参数,进行一个可视化的输出预测。该方法加快了矩形波导管的设计过程,并简化了设计步骤。
16 一种用于执行RMSprop梯度下降算法的装置及方法 CN201610269674.0 2016-04-27 CN107315569B 2021-06-18 刘少礼; 郭崎; 陈天石; 陈云霁
本公开提供了一种用于执行RMSprop梯度下降算法的装置及方法,该装置包括直接内存访问单元、指令缓存单元、控制器单元、数据缓存单元、数据处理。该方法包括:首先读取梯度向量以及待更新值向量,同时初始化一个均方向量;每次迭代时,首先利用梯度向量更新均方向量,然后,利用均方向量计算出更新时对应的梯度下降量,更新待更新参数向量,重复此过程,直至待更新向量收敛。在整个过程中,均方向量一直存储在数据缓存单元中。利用本公开,可以实现RMSprop梯度下降算法的应用,并大幅度提高数据处理的效率。
17 基于梯度下降算法的电运输网络优化方法 CN201910224912.X 2019-03-24 CN109951336B 2021-05-18 刘静; 荣磊
发明提出了一种基于梯度下降算法的电运输网络优化方法,用于解决现有技术因存在的容易陷入局部最优解,导致电力运输网络在抵抗攻击或者扰动时鲁棒性较差的技术问题,实现步骤为:设定梯度下降算法参数;设定电力运输网络;判断概率选择表达式;表达式不成立时执行随机交换算子;表达式成立时计算最优连接率;基于最优连击率进行局部搜索;对比局部搜索解鲁棒性与鲁棒性极大值;将迭代过程中优化后的电力运输网络作为输出。本发明在优化电力运输网络的过程中,采用梯度下降算法计算最优连接率,设计了基于最优连接率的局部搜索算子、概率选择表达式,优化后的电力运输网络具有高鲁棒性。
18 一种基于改进遗传算法的群粒子梯度下降算法 CN202010518110.2 2020-06-09 CN111767977A 2020-10-13 单雨龙; 赵世军; 李秋涵
基于改进遗传算法的群粒子梯度下降算法,能快速准确地搜索到复杂函数条件下的全局最优解,群粒子梯度下降算法的步骤:生成初始种群是否满足终止条件、计算每个个体的适应度值;筛选遗传算子,梯度下降法作用每个个体生成新种群,计算每个个体的适应度值,交叉变异操作生成新种群;遗传算法的改进方法是:将种群内适应度值最大的前5个个体保留,剩余的新种群个体以轮盘选择法进行概率选择;将遗传算法的并行计算思想及进化机制引入梯度下降法中,即将原来单个点的寻优改为群体寻优,且不断有新的更接近最优解的种群同时沿着梯度方向寻找最优解。
19 基于次梯度下降法的缓存内容优化方法 CN201811085116.4 2018-09-18 CN109088944B 2020-08-14 王睿; 李如昱
发明提供了一种基于次梯度下降法的缓存内容优化算法,首先利用随机几何的知识推导出成功传输概率,然后以最大化成功传输概率为优化目标,设定相应的内容缓存分布的约束,建立优化模型;将目标函数重写为拉格朗日函数形式,引入对偶因子;再使用两次嵌套迭代算法,优化内容缓存分布。该算法优化后的内容缓存分布与现有的内容缓存分布相比较,极大地提高了成功传输概率,解决了现在基于内容的服务需求量爆发式增长的问题,同时,避免了相同的内容被重复分发时引起的带宽以及其他开销浪费的问题。
20 一种用于执行RMSprop梯度下降算法的装置及方法 CN201610269674.0 2016-04-27 CN107315569A 2017-11-03 刘少礼; 郭崎; 陈天石; 陈云霁
发明公开了一种用于执行RMSprop梯度下降算法的装置及方法,该装置包括直接内存访问单元、指令缓存单元、控制器单元、数据缓存单元、数据处理。该方法包括:首先读取梯度向量以及待更新值向量,同时初始化一个均方向量;每次迭代时,首先利用梯度向量更新均方向量,然后,利用均方向量计算出更新时对应的梯度下降量,更新待更新参数向量,重复此过程,直至待更新向量收敛。在整个过程中,均方向量一直存储在数据缓存单元中。利用本发明,可以实现RMSprop梯度下降算法的应用,并大幅度提高数据处理的效率。
QQ群二维码
意见反馈