专利摘要

本发明公开了一种多标记故障深度学习的识别及其结果智能表达的方法，涉及智能制造过程控制领域，通过深度识别网络的建立与训练有效提高制造过程故障识别的时效性，通过提供多标记故障的深度学习有效提高制造过程多标记故障的确诊率，通过识别结果的智能表达从多方面展示制造过程的健康状态。

权利要求

1.一种多标记故障深度学习的识别及其结果智能表达的方法，其特征在于，包括以下步骤：

A、采集制造过程产生的数据，作为深度识别网络的输入数据；

B、建立制造过程故障的深度识别网络，对深度识别网络进行训练；

C、进行制造过程故障的多标记深度学习,建立多标记故障深度识别网络；

D、采集制造过程中监测的数据，智能表达制造过程的故障识别结果；

其中，所述步骤B包括以下步骤：

B1、对网络特征进行监督方式的引导学习；

B2、放松Relu激活函数对负误差响应为零的限制，并通过放松后的Relu激活函数遏制由Sigmoid激活函数、TBnh激活函数所引起的梯度消失现象；

B3、通过迭代求解，自适应确定网络稀疏项系数、网络节点数；

B4、在每次迭代时将网络节点输出随机清零，并随机冻结网络节点；

其中，所述步骤C包括以下步骤：

C1、构建制造过程故障多标记体系；

C2、构建制造过程故障多标记深度学习框架，训练基于多标记故障的深度识别网络；

C3、与多标记故障深度识别网络联合学习，获得多标记故障之间的联合概率分布，推理缺失标记；

C4、建立多源信息融合的多标记故障深度识别网络。

2.根据权利要求1所述的多标记故障深度学习的识别及其结果智能表达的方法，其特征在于，所述步骤C1中制造过程故障多标记体系具体包括：采集制造过程中故障的位置、类型、程度的数据，分别建立工厂各子系统的制造过程故障标记。

3.根据权利要求1所述的多标记故障深度学习的识别及其结果智能表达的方法，其特征在于，所述步骤C2中构建多标记深度学习框架具体包括：扩展深度识别网络输出层拓扑结构，在网络输出层分别建立每个标记体系的识别任务，利用交叉熵定义各识别任务的损失函数。

4.根据权利要求1所述的多标记故障深度学习的识别及其结果智能表达的方法，其特征在于，所述步骤C4中建立多源信息融合的多标记故障深度识别网络具体实现方式为：扩展多标记深度识别网络的输入层结构，对多源信号之间进行交叉迁移学习，获得多源信号与共享故障特征之间的协同特征变换。

5.根据权利要求1所述的多标记故障深度学习的识别及其结果智能表达的方法，其特征在于，所述步骤D包括以下步骤：

D1、将单层网络训练的权重拆分为多个基函数的组合；

D2、将深层网络参数可视化；

D3、获得故障信息由浅入深的表达模式；

D4、表达基于深度网络的故障识别结果，形成制造过程的健康态势图。

6.根据权利要求5所述的多标记故障深度学习的识别及其结果智能表达的方法，其特征在于，所述步骤D2中深层网络参数的可视化具体实现方式为：寻找激活当前层神经元节点的最大输入模式，将该节点作为上一层滤波器的线性加权组合。

7.根据权利要求5所述的多标记故障深度学习的识别及其结果智能表达的方法，其特征在于，所述步骤D3中获得故障信息由浅入深的表达模式具体实现方式为：逐层可视化网络提取的特征，寻找当前层与上一层之间特征空间相似特性与变化趋势。

说明书

技术领域

本发明涉及智能制造和机器学习领域，具体涉及一种多标记故障深度学习的识别及其结果智能表达的方法。

背景技术

深度学习和识别是机器学习里面的一个热门领域，目前已成功应用于计算机视觉、自然语言处理和智能搜索等，信息技术和智能技术与装备制造过程技术的深度融合与集成理论较少涉及，中国的许多高等院校、科研院所都在从事这方面的研究与应用开发工作，在理论研究方面，加入了并行、敏捷、网络化和可重构等一些先进思想，在系统设计方面采用面向对象、构件和代理等技术，取得了不少有益的成果，但在智能制造过程控制领域，依然存在制造过程故障识别的时效性差，制造过程多标记故障的确诊率低，不能多方面展示制造过程的健康状态等问题。

发明内容

本发明通过深度识别网络的建立与训练、多标记故障的深度学习和识别结果的智能表达有效解决这些问题。

本发明提供一种多标记故障深度学习的识别及其结果智能表达的方法，包括以下步骤：

A、采集制造过程产生的海量数据，作为深度识别网络的输入数据；

B、建立制造过程故障的深度识别网络，采集制造过程产生的海量数据作为深度识别网络的输入数据，对深度识别网络进行训练；

C、进行制造过程故障的多标记深度学习；

D、采集制造过程中监测的数据，智能表达制造过程的故障识别结果。

进一步，所述步骤B包括如下步骤：

B1、对网络特征进行监督方式的引导学习，建立深层稀疏网络与 SoftmBx等分类模型之间的信息交互机制，突出深层稀疏网络提取的判别特征，抑制深层稀疏网络提取的随机特征，将深层稀疏网络与分类模型整合到深度识别网络的框架下；

B2、修正Relu激活函数，放松Relu激活函数对负误差响应为零的限制，利用Relu激活函数具有的单侧抑制、宽阔兴奋边界等特点，通过放松后的Relu激活函数遏制由Sigmoid、TBnh等传统激活函数所引起的梯度消失现象，从而在保留Relu函数优点的情况下，充分利用负误差中包含的故障识别信息，进而建立基于修正Relu激活函数的深度识别网络；

B3、通过迭代求解，自适应确定网络稀疏项系数、网络节点数，实现深度识别网络的自动训练；

B4、在每次迭代时将网络节点输出随机清零，将深度识别网络训练转化为多网络结构的集成训练，有效避免过拟合现象，然后改进 Dropout的训练策略，通过随机冻结网络节点的方式，避免计算节点输出时造成的硬件资源浪费，快速合理地训练深度识别网络，保证制造过程故障识别的时效性。

进一步，所述步骤C包括以下步骤：

C1、构建制造过程故障多标记体系；

C2、构建制造过程故障多标记深度学习框架，训练基于多标记故障的深度识别网络；

C3、与多标记故障深度识别网络联合学习，获得多标记故障之间的联合概率分布，推理缺失标记，解决多标记故障深度识别网络训练中某些标记缺失的问题；

C4、建立多源信息融合的多标记故障深度识别网络，从而提高制造过程多标记故障的确诊率。

进一步，所述步骤C1中制造过程故障多标记体系具体包括：采集制造过程中故障的位置、类型、程度的数据，分别建立工厂各子系统的制造过程故障标记，高效、全面地标记制造过程的运行状态，克服单标记不能完整地描述制造过程运行状态的问题。

进一步，所述步骤C2中构建多标记深度学习框架具体包括：扩展深度识别网络输出层拓扑结构，在网络输出层分别建立每个标记体系的识别任务，利用交叉熵定义各识别任务的损失函数。

进一步，所述步骤C4中建立多源信息融合的多标记故障深度识别网络具体实现方式为：扩展多标记深度识别网络的输入层结构，对多源信号之间进行交叉迁移学习，获得多源信号与共享故障特征之间的协同特征变换。

进一步，所述步骤D包括以下步骤：

D1、将单层网络训练的权重拆分为多个基函数的组合；

D2、将深层网络参数可视化；

D3、获得故障信息由浅入深的表达模式；

D4、表达基于深度网络的故障识别结果，形成制造过程的健康态势图，展示制造过程的健康状态。

进一步，所述步骤D2中深层网络参数的可视化具体实现方式为：寻找激活当前层神经元节点的最大输入模式，将该节点作为上一层滤波器的线性加权组合，从而实现深层网络参数的可视化。

进一步，所述步骤D3中获得故障信息由浅入深的表达模式具体实现方式为：逐层可视化网络提取的特征，寻找当前层与上一层之间特征空间相似特性与变化趋势，直观反映监测大数据的内在结构，增强对监测大数据本质的理解。

本发明的有益效果是：本发明通过深度识别网络的建立与训练有效提高制造过程故障识别的时效性，通过提供多标记故障的深度学习有效提高制造过程多标记故障的确诊率，通过识别结果的智能表达从多方面展示制造过程的健康状态。

附图说明

下面结合附图和实例对本发明作进一步说明。

图1是本发明多标记故障深度学习的识别及其结果智能表达的方法的流程图；

图2是本发明多标记故障深度学习的识别及其结果智能表达的方法步骤B的流程图；

图3是本发明多标记故障深度学习的识别及其结果智能表达的方法步骤C的流程图；

图4是本发明多标记故障深度学习的识别及其结果智能表达的方法步骤D的流程图。

具体实施方式

参照图1—4，本发明提供一种多标记故障深度学习的识别及其结果智能表达的方法的实施例，包括以下步骤：

A、采集制造过程产生的海量数据，作为深度识别网络的输入数据；

B、建立制造过程故障的深度识别网络，采集制造过程产生的海量数据作为深度识别网络的输入数据，对深度识别网络进行训练；

C、进行制造过程故障的多标记深度学习；

D、采集制造过程中监测的数据，智能表达制造过程的故障识别结果。

进一步，所述步骤B包括如下步骤：

B1、对网络特征进行监督方式的引导学习，建立深层稀疏网络与SoftmBx等分类模型之间的信息交互机制，突出深层稀疏网络提取的判别特征，抑制深层稀疏网络提取的随机特征，将深层稀疏网络与分类模型整合到深度识别网络的框架下；

B2、修正Relu激活函数，放松Relu激活函数对负误差响应为零的限制，利用Relu激活函数具有的单侧抑制、宽阔兴奋边界等特点，通过放松后的Relu激活函数遏制由Sigmoid、TBnh等传统激活函数所引起的梯度消失现象，从而在保留Relu函数优点的情况下，充分利用负误差中包含的故障识别信息，进而建立基于修正Relu激活函数的深度识别网络；

B3、通过迭代求解，自适应确定网络稀疏项系数、网络节点数，实现深度识别网络的自动训练；

B4、在每次迭代时将网络节点输出随机清零，将深度识别网络训练转化为多网络结构的集成训练，有效避免过拟合现象，然后改进 Dropout的训练策略，通过随机冻结网络节点的方式，避免计算节点输出时造成的硬件资源浪费，快速合理地训练深度识别网络，保证制造过程故障识别的时效性。

进一步，所述步骤C包括以下步骤：

C1、构建制造过程故障多标记体系；

C2、构建制造过程故障多标记深度学习框架，训练基于多标记故障的深度识别网络；

C3、与多标记故障深度识别网络联合学习，获得多标记故障之间的联合概率分布，推理缺失标记，解决多标记故障深度识别网络训练中某些标记缺失的问题；

C4、建立多源信息融合的多标记故障深度识别网络，从而提高制造过程多标记故障的确诊率。

进一步，所述步骤C1中制造过程故障多标记体系具体包括：采集制造过程中故障的位置、类型、程度的数据，分别建立工厂各子系统的制造过程故障标记，高效、全面地标记制造过程的运行状态，克服单标记不能完整地描述制造过程运行状态的问题。

进一步，所述步骤C2中构建多标记深度学习框架具体包括：扩展深度识别网络输出层拓扑结构，在网络输出层分别建立每个标记体系的识别任务，利用交叉熵定义各识别任务的损失函数。

进一步，所述步骤C4中建立多源信息融合的多标记故障深度识别网络具体实现方式为：扩展多标记深度识别网络的输入层结构，对多源信号之间进行交叉迁移学习，获得多源信号与共享故障特征之间的协同特征变换。

进一步，所述步骤D包括以下步骤：

D1、将单层网络训练的权重拆分为多个基函数的组合；

D2、将深层网络参数可视化；

D3、获得故障信息由浅入深的表达模式；

D4、表达基于深度网络的故障识别结果，形成制造过程的健康态势图，展示制造过程的健康状态。

进一步，所述步骤D2中深层网络参数的可视化具体实现方式为：寻找激活当前层神经元节点的最大输入模式，将该节点作为上一层滤波器的线性加权组合，从而实现深层网络参数的可视化。

进一步，所述步骤D3中获得故障信息由浅入深的表达模式具体实现方式为：逐层可视化网络提取的特征，寻找当前层与上一层之间特征空间相似特性与变化趋势，直观反映监测大数据的内在结构，增强对监测大数据本质的理解。

以上所述，只是本发明的较佳实施例而已，本发明并不局限于上述实施方式，只要其以相同的手段达到本发明的技术效果，都应属于本发明的保护范围。

多标记故障深度学习的识别及其结果智能表达的方法专利购买费用说明

Q：办理专利转让的流程及所需资料

A：专利权人变更需要办理著录项目变更手续，有代理机构的，变更手续应当由代理机构办理。

1：专利变更应当使用专利局统一制作的“著录项目变更申报书”提出。

2：按规定缴纳著录项目变更手续费。

3：同时提交相关证明文件原件。

4：专利权转移的，变更后的专利权人委托新专利代理机构的，应当提交变更后的全体专利申请人签字或者盖章的委托书。

Q:专利著录项目变更费用如何缴交

A：（1）直接到国家知识产权局受理大厅收费窗口缴纳,（2）通过代办处缴纳，（3）通过邮局或者银行汇款,更多缴纳方式

Q：专利转让变更，多久能出结果

A：著录项目变更请求书递交后，一般1-2个月左右就会收到通知，国家知识产权局会下达《转让手续合格通知书》。