专利内容由知识产权出版社提供
专利名称:一种提高深度学习模型精度的方法、系统、设备及
介质
专利类型:发明专利发明人:李峰,张潇澜
申请号:CN202011114119.3申请日:20201018公开号:CN112465106A公开日:20210309
摘要:本发明公开了一种提高深度学习模型精度的方法、系统、设备和存储介质,方法包括:构造激活函数族,根据激活函数族得到模型的初始目标函数,并建立初始目标函数与模型初始输出之间的损失函数;计算样本数据中损失函数对各个网络参数的第一偏导数和损失函数对激活函数族的待定幂次的第二偏导数;基于第一偏导数和第二偏导数并结合预设的学习率对损失函数进行更新以及确认更新后模型的精度;以及响应于更新后的模型的精度达到阈值,确定激活函数族对应的幂次,并基于幂次更新模型。本发明通过对激活函数的幂次进行自适应调节,并且通过对网络输出结果应用反向误差传播算法来调节网络权重、偏移量和函数幂次,提高了深度学习模型的精度和效率。
申请人:苏州浪潮智能科技有限公司
地址:215100 江苏省苏州市吴中区吴中经济开发区郭巷街道官浦路1号9幢
国籍:CN
代理机构:北京连和连知识产权代理有限公司
更多信息请下载全文后查看