Time-series Data Anomaly Detection Method Based on Deep Learning
-
摘要:
针对类间分布不平衡的时间序列数据的异常检测问题，提出了一种基于深度卷积神经网络的检测方法.首先采用抽样法对不平衡时间序列数据进行预处理；其次，将处理后的时间序列数据转换为尺度一致、时长一致的片段；最后将数据送入具有4层隐藏层结构的卷积神经网络模型中进行异常检测.实验结果表明，所提方法弥补了现存的检测技术由于忽略数据分布的偏斜性而造成的少数类检测精度低的缺点，并通过与现有的时间序列分类方法的比较，验证了所提方法的高效性.
Abstract:With regard to the anomaly detection problem of time-series data with a skewed between-class distribution, we propose a detection method based on deep convolutional neural network.First, we employ the sampling method to preprocess the unbalanced time-series data.Second, the original time-series data are converted into a series of continuous segments with a uniform scale and consistent duration.Finally, we feed the data into a convolutional neural network model with four hidden layers for anomaly detection.The experimental results show that the proposed method covers the shortage of existing detection technologies that ignore the skewness of data distributions and results in a low-detection precision.Compared with the existing time-series classification methods, the proposed method provided a satisfactory performance.
-
0. 引言
开关磁阻电机因具有结构简单坚固、起动电流小、起动转矩大、效率高、容错能力强、调速范围宽等系列优点[1-4]，而在电动汽车、矿用机车等众多领域得到了广泛应用[5]。然而在某些要求频繁起制动、加减速的运行工况下，开关磁阻电机因频繁制动运行而将产生大量的能量损耗，不仅造成了极大的能量浪费，同时也影响了设备的持续正常运行，因此开展开关磁阻电机再生制动控制研究具有重要意义。
目前国内外在开关磁阻电机再生制动控制方面已开展了大量研究并提出了多种控制方法[6]，但仍存在制动能量回馈效率低及制动转矩脉动大等不足[7]。为此，不少研究者通过优化其再生制动控制参数予以改进，提出了诸如2维搜索算法[8]、遗传算法[9-10]、文化粒子群算法[11]、改进型粒子群协同优化算法[12]及混沌分子动理论优化算法[13]等多种优化方法，虽取得了一定的效果，但仍存在不足，如2维搜索算法搜索效率低、耗时长及计算空间占用高；遗传算法容易出现早熟的情况，其稳定性差、处理规模小；文化粒子群算法、改进型粒子群协同优化算法存在调节参数多、收敛速度与精度不高等不足；而混沌分子动理论优化算法则存在受权重系数影响大等问题。为此，文[14]提出一种双目标非支配排序遗传算法，有效克服了上述问题，具有全局搜索能力强、参数设置少等特点，但仍存在易陷入局部最优解等问题，因而难以达到期望的优化效果。
针对双目标非支配排序遗传算法在优化开关磁阻电机再生制动控制参数时存在的上述问题，提出一种渐近约束支配法则。本文阐述了该法则的基本原理，研究了将基于该法则的双目标非支配排序遗传算法应用于优化开关磁阻电机再生制动控制参数的具体设计方法，并对其效果进行了仿真验证，结果证明了基于该法则的双目标非支配排序遗传算法的有效性和可行性。
2. 双目标非支配排序遗传算法基本原理
双目标非支配排序遗传算法(non-dominated sorting genetic algorithm-Ⅱ，NSGA-Ⅱ)是2002年由Deb等提出的一种智能优化算法[15]，其基本原理是利用快速非支配排序和拥挤距离排序使种群个体收敛到最终的pareto前沿，具有全局搜索能力强、参数设置少等特点。其主要优化步骤包括[16]：
步骤1：分别确定优化目标1和优化目标2的目标函数，即f1(x)与f2(x)；建立约束条件，包括不等式约束条件和等式约束条件，具体为：
不等式约束条件可表示为
(1) 式中，gi(x)为第i个不等式约束条件函数，1≤i≤q；q为不等式约束条件的个数。
等式约束条件可表示为
(2) 式中，hj(x)为第j个等式约束条件函数，q+1≤j≤m，m为约束条件总数。
步骤2：初始化种群参数。
步骤3：随机产生第一代父代种群。
步骤4：计算父代种群中每个个体的目标函数值。
步骤5：父代种群通过交叉、变异、选择得到子代种群，将父代与子代种群合并后得到新种群。
步骤6：对新种群采用快速非支配排序并计算拥挤度。
步骤7：根据精英保留策略选出下一代个体的父代种群。
步骤8：重复步骤4~步骤7，直至达到终止条件后结束，输出精英种群。
然而尽管NSGA-Ⅱ算法具有上述全局搜索能力强、参数设置少等特点，但只适于优化无约束的优化对象，对于优化诸如开关磁阻电机再生制动控制参数这种有约束的优化对象来说，则仍存在易陷入局部最优解等不足。因此如何有效克服上述不足，对提高该算法的适用范围将具有重要意义。
3. 渐近约束支配法则
针对NSGA-Ⅱ算法在优化有约束优化对象时存在易陷入局部最优解等问题，提出一种渐近约束支配法则。该法则通过提出种群的3种约束状态及总渐近反约束度等概念，并提出相应的算法搜索与收敛规则，有效解决了其易陷入局部最优解等问题。
3.1 种群约束状态
鉴于NSGA-Ⅱ算法的搜索空间包括可行域与不可行域两部分，为实现该算法全局搜索能力强且不易陷入局部最优解的目标，应提高该算法在不可行域内的搜索能力，同时又能可靠收敛于可行域内。为此，根据其种群在优化过程中不同阶段的状态特点，提出种群的3种约束状态，分别称为：无约束状态、半约束状态与全约束状态。其中，无约束状态表示算法在不可行域与可行域内均有较强的搜索能力，但算法的收敛性较差，无法收敛于可行域内；半约束状态表示算法在可行域内及靠近可行域边界外的区域有较强的搜索能力，但只能收敛于靠近可行域边界外的区域；全约束状态表示算法只在可行域内有较强的搜索能力，算法的收敛性强，能收敛于可行域内。
3.2 种群约束状态控制方法
为达到既提高NSGA-Ⅱ算法的全局搜索能力又增强其收敛性的目的，需根据其优化过程所处的不同阶段，合理控制其种群的约束状态。
1) 无约束状态到半约束状态的转换
在算法优化的起始阶段，为尽快搜索到可行域与不可行域内目标函数值优秀的个体，其种群的约束状态应控制为无约束状态；而当搜索到可行域与不可行域内目标函数值优秀的所有个体时，则应减弱算法的搜索能力并增强其收敛性，即其种群约束状态应转换为半约束。
为判断NSGA-Ⅱ算法在优化过程中是否已找到可行域与不可行域内所有目标函数值优秀的个体，提出非支配可行解收敛性指标，其定义为：对于第a代与第a-1代种群中的可行解进行快速非支配排序，分别得到各自对应的非支配可行解，将这两代非支配可行解对应的双目标函数值在以双目标函数值为坐标的2维平面上所围成的面积作为第a代非支配可行解收敛性指标。若第a代非支配可行解收敛性指标小于等于前R代非支配可行解收敛性指标的平均值，则表示已找到可行域与不可行域内所有目标函数值优秀的个体。其中R为正整数。有关正整数R和非支配可行解收敛性指标的计算方法如下：
(1) 正整数R由第一代种群中可行解的数量确定，具体公式如下：
(3) 式中，b为常数，用于控制算法的收敛速度，可根据需要设置，z1为第1代种群中可行解的数量，Kmax为最大迭代次数。
(2) 非支配可行解收敛性指标的具体计算公式为
(4) 式中，CRa表示第a代非支配可行解收敛性指标，
(5) 
(6) 
(7) 
(8) 其中，xa1，xa2，…，xa(va-1)，xava为第a代非支配可行解，x(a-1)1，x(a-1)2，…， x(a-1)(va-1-1)， x(a-1)(va-1)为第a-1代非支配可行解，va为第a代非支配可行解数量，va-1为第a-1代非支配可行解数量，f1(xa1)，f1(xa2)，…，f1(xava)为非支配可行解集对应优化目标1的目标函数值，f2(xa1)，f2(xa1)，…，f2(xava)为非支配可行解集对应优化目标2的目标函数值。其中，非支配可行解的计算方法如下：
(1) 计算种群个体的总反约束度
种群个体的总反约束度用于判断该个体是否为可行解，具体公式如下[17]：
(9) 式中，x′ai为第a代种群中的第i个个体，G(x′ai)为x′ai的总反约束度，m为约束的总数，Gj(x′ai)为x′ai的第j个反约束度，具体公式如下：
(10) 式中，gj(x′ai)为x′ai的第j个不等式约束条件对应的约束函数，hj(x′ai)为x′ai的第j个等式约束条件对应的约束函数，q为不等式约束的个数。
若个体x′ai的总反约束度G(x′ai)>0，则称该个体x′ai为不可行解；否则，称该个体x′ai为可行解。
(2) 将第a代种群所有的可行解构成可行解集，并对可行解集进行快速非支配排序，其中被支配数为零的个体称为非支配可行解；将非支配可行解按目标函数值从小到大进行排序得到非支配可行解集Xfa={xa1，xa2，…，xa(va-1)，xava}。
2) 半约束状态到全约束状态的转换
当种群优秀个体收敛于可行域内及靠近可行域边界外的区域时，则应控制约束状态由半约束转换为全约束。为判断优秀个体是否已收敛于可行域内以及靠近可行域边界外的区域，本文提出边缘不可行解与边缘可行解之间的距离和相邻非支配可行解之间的平均距离两个指标。其中，边缘不可行解为不可行解集中总反约束度最小的个体，边缘可行解为可行解集中总反约束度最小的个体。当边缘不可行解与边缘可行解之间的距离小于等于相邻非支配可行解之间的平均距离时，则可判定种群中所有优秀个体都已收敛于可行域内及靠近可行域边界外的区域。其中，边缘不可行解与边缘可行解之间的距离和相邻非支配可行解之间的平均距离的计算方法，具体为：
(1) 边缘不可行解与边缘可行解之间的距离的计算公式为
(11) 式中，Dist为边缘不可行解与边缘可行解之间的距离，xmu为边缘不可行解，xmf为边缘可行解，f1(xmu)和f1(xmf)分别为边缘不可行解和边缘可行解对应的目标函数1的值，f2(xmu)和f2(xmf)分为边缘不可行解和边缘可行解对应的目标函数2的值。
(2) 相邻非支配可行解之间的平均距离的计算公式为
(12) 式中，dist为相邻非支配可行解之间的平均距离，f1(xa1)，f1(xa2)，…，f1(xava)为非支配可行解集对应的目标函数1的值，f2(xa1)，f2(xa1)，…，f2(xava)为非支配可行解集对应的目标函数2的值。
3.3 总渐近反约束度
在算法优化过程中，为选择较优个体进入下一代种群，提出总渐近反约束度的概念，其定义为：种群个体违反种群约束状态对应约束条件的程度。其计算公式为
(13) 式中，G*(x′ai)为第a代种群中第i个个体x′ai的总渐近反约束度，Gj*(x′ai)表示第a代种群中第i个个体x′ai的第j个渐近反约束度，其计算方法如下：
1) 当种群处于无约束状态时，由于此时种群中所有个体均将满足其约束条件，也即其个体违反其约束条件的程度为0，因此可得其个体x′ai的第j个渐近反约束度为
(14) 2) 当种群处于半约束状态时，其约束条件为种群中个体的反约束度应小于或等于边缘不可行解的反约束度；也即当其个体的反约束度小于或等于其边缘不可行解的反约束度时，该个体违反其约束条件的程度为零；否则，其违反约束条件的程度不为零；因而可定义其个体违反约束条件的程度为该个体的反约束度与边缘不可行解反约束度的差值，由此可得个体x′ai的第j个渐近反约束度为
(15) 式中，Gj(xmu)为边缘不可行解的第j个反约束度值。
3) 当种群处于全约束状态时，其约束条件为种群中个体的反约束度均应等于零，也即其个体违反其约束条件的程度就等于其反约束度，由此可得其个体x′ai的第j个渐近反约束度具体为
(16) 根据上述提出的总渐近反约束度指标，在算法优化过程中选取种群中较优个体进入下一代种群，具体方法为：
对于第a代种群中的任意两个个体x′ai、x′ak(i≠k)，其对应的总渐近反约束度分别为G*(x′ai)和G*(x′ak)，如果满足下列条件中任一项，则个体x′ak优先于个体x′ai进入下一代种群：
(1) 0 < G*(x′ak) < G*(x′ai)；
(2) G*(x′ak)=G*(x′ai)=0，且个体x′ak对应的双目标函数值f1(x′ak)、f2(x′ak)分别优于个体x′ai对应的双目标函数值f1(x′ai)、f2(x′ai)，即f1(x′ak)≤f1(x′ai)，f2(x′ak)≤f2(x′ai)；同时还需满足f1(x′ak) < f1(x′ai)或f2(x′ak) < f2(x′ai)。
4. 开关磁阻电机再生制动控制参数优化方法
将本文提出的渐近约束支配法则对NSGA-Ⅱ算法进行改进，再采用基于渐近约束支配法则的NSGA-Ⅱ算法对开关磁阻电机再生制动控制参数进行优化，其控制系统基本原理框图如图 1所示。
4.1 建立开关磁阻电机再生制动数学模型
开关磁阻电机再生制动数学模型包括：
1) 电压平衡方程
开关磁阻电机相电压平衡方程式为[18]
(17) 式中，U为相电压，其正负取值由电机状况决定，导通阶段为正，能量回馈阶段为负；R、L、i分别为相绕组电阻、电感和电流，θ为转子位置角，ω为电机转子角速度。
2) 电磁转矩方程[19]
开关磁阻电机绕组电感随转子位置角呈非线性变化，其一相电磁转矩方程为
(18) 式中，Te为电机一相电磁转矩。
3) 电机转子的机械方程
(19) 式中，TL为负载转矩，J为转动惯量，B为阻尼系数。
4.2 开关磁阻电机再生制动优化目标与约束条件
本文以开关磁阻电机开通角、关断角及换相重叠角为优化对象，以其再生制动效率和制动转矩脉动系数为优化目标，并以开关磁阻电机实际转速相对于其给定转速的偏差、再生制动效率及制动转矩脉动系数作为约束条件，具体如下：
1) 确定目标函数
设开关磁阻电机再生制动效率和制动转矩脉动系数对应的目标函数分别为f1(x)与f2(x)，其确定方法如下：
目标函数1：为得到开关磁阻电机的最大再生制动效率η，将其目标函数f1(x)设为
(20) 其中，η的具体计算公式为
(21) 式中，N为开关磁阻电机的相数，Tave为开关磁阻电机的平均转矩，ω为转子角速度，θ为转子位置角，in为开关磁阻电机第n相电流，θon为开通角，θoff为关断角，θend为电流衰减到零时对应的角度，θrrp为转子极距。
目标函数2：为得到开关磁阻电机的最小制动转矩脉动系数ε，将其目标函数f2(x)设为
(22) 其中，ε的具体公式为
(23) 式中，Tmax为瞬时最大转矩，Tmin为瞬时最小转矩，Tave为平均转矩。
2) 确定约束条件
设定开关磁阻电机实际转速相对于其给定转速的偏差e、再生制动效率η及制动转矩脉动系数ε的约束条件分别为
(24) 
(25) 
(26) 式中，E1、E2分别为根据实际需要设定的常数。
按照约束多目标问题的定义[20]，将上述约束条件表示为
(27) 
(28) 
(29) 式中，g1(x)、g2(x)和g3(x)分别为上述3个约束条件对应的约束函数。
4.3 开关磁阻电机再生制动控制参数优化步骤
利用本文提出的基于渐近约束支配法则的NSGA-Ⅱ算法对开关磁阻电机再生制动控制参数进行优化，具体步骤如下：
步骤1：初始化种群个体数量M、最大迭代次数Kmax，设置制动能量回馈效率的权重系数k1、制动转矩脉动系数的权重系数k2，且须满足k1+k2=1，设置迭代次数a和支配等级rank的初始值为1，设置集合Ua的初始状态为空集。
步骤2：随机产生第一代父代种群Pa。
步骤3：实时采集开关磁阻电机的转矩、转子角速度、直流母线电压以及当前相绕组对应的转子位置角与相电流值，计算种群Pa中每个个体对应的目标函数1与目标函数2值；再对Pa进行快速非支配排序，得到每个个体的rank值并计算拥挤度。
步骤4：根据Pa中每个个体的rank值与拥挤度，将第a代父代种群Pa通过选择、交叉、变异产生第a代子代种群Qa；Pa与Qa合并后得到第a代种群Ra；计算Ra中每个个体x′ai(i=1，…，2M)对应的目标函数f1(x′ai)与f2(x′ai)值。
步骤5：根据步骤4所得第a代种群Ra中每个个体x′ai的f1(x′ai)与f2(x′ai)值，求得各个体x′ai的总渐近反约束度。
步骤6：根据步骤4与步骤5中所得Ra中每个个体x′ai的f1(x′ai)与f2(x′ai)值及其总渐近反约束度，计算其对应各个体x′ai的渐近被支配数，具体步骤如下：
步骤6.1：设置变量i的初始值为1，设置中间变量k的初始值为1，设每个个体x′ai渐近被支配数的初始值为0。
步骤6.2：根据第3.3节所述方法选出x′ai与x′ak中较优的个体，若x′ak优于x′ai，则x′ai的渐近被支配数加1；否则，x′ai的渐近被支配数不变。
步骤6.3：判断k是否达到2M，若达到，则进入步骤6.4；否则k加1后返回步骤6.2。
步骤6.4：判断i是否达到2M，若达到，则进入步骤7；否则i加1同时k赋值为1后返回步骤6.2。
步骤7：将渐近被支配数为零的个体从第a代种群Ra移入集合Ua中，并标注其支配等级为rank。
步骤8：判断步骤7所得第a代种群Ra中的个体数目是否为0，若不为0，则rank加1后，将Ra中剩余个体对应的渐近被支配数减1，返回步骤7；若第a代种群Ra中的个体数目为0，则计算Ua中各个体的拥挤度，然后进入步骤9。
步骤9：对Ua中各个体进行排序，具体为：rank值不同的个体按rank值从小到大进行排序，rank值相同的个体按拥挤度从大到小进行排序，得排序后的种群U′a。
步骤10：将步骤9所得排序后的种群U′a中前M个个体作为下一代的父代种群Pa+1。
步骤11：判断迭代次数是否达到最大迭代次数Kmax；若达到，则输出种群Pa+1；否则，迭代次数a加1，返回步骤3。
步骤12：构建决策权重函数，并计算每个个体对应的决策权重函数值，决策权重函数g(x(a+1)i)的具体公式如下：
(30) 式中，F1为max(f1(p(a+1)1，…，f1(p(a+1)M)-min(f1(p(a+1)1，…，f1(p(a+1)M)，F2为max(f2(p(a+1)1，…，f2(p(a+1)M)-min(f2(p(a+1)1，…，f2(p(a+1)M)。
步骤13：根据步骤12所得每个个体对应的决策权重函数值，取其中最小值对应的个体作为最优解，由此得到对应的开通角、关断角及换相重叠角最佳取值。
5. 仿真分析
为了验证基于渐近约束支配法则的NSGA-Ⅱ算法优化开关磁阻电机再生制动控制参数的效果，采用Matlab搭建开关磁阻电机制动控制系统仿真模型进行验证。开关磁阻电机主要参数如表 1所示，相关参数设置如下：种群个体数量M取50、最大迭代次数Kmax取30，常数b设为6，制动能量回馈效率的权重系数k1设为0.4，制动转矩脉动系数的权重系数k2设为0.6。为验证在不同转速下该算法的优化结果，分别在高速和低速状态下进行仿真分析，并任取高速制动初始转速为2 800 r/min，制动加速度为-1 830 r/min2；低速制动初始转速为400 r/min，制动加速度为-5 054 r/min2。同时为了与传统NSGA-Ⅱ优化算法进行对比，在上述相同条件下采用传统NSGA-Ⅱ优化算法进行相应的仿真分析。相关结果分别如表 2和表 3所示，相应的仿真波形则分别见图 2和图 3。
表 1 开关磁阻电机主要参数Tab. 1. Main parameters of switched reluctance motor参数 数值 定、转子极数 6/4 额定功率/kW 4 额定电压/V 314 转动惯量/(kg·m2) 50 摩擦系数 0.002 表 2 高速状态下的优化结果Tab. 2. Optimization results at high speed参数 传统NSGA-Ⅱ 基于渐近约束支配法则的NSGA-Ⅱ 制动能量回馈效率 0.805 1 0.845 2 制动转矩脉动系数 0.701 7 0.562 7 陷入局部最优解次数 7 2 表 3 低速状态下的优化结果Tab. 3. Optimization results at low speed参数 传统NSGA-Ⅱ 基于渐近约束支配法则的NSGA-Ⅱ 制动能量回馈效率 0.765 1 0.820 7 制动转矩脉动系数 0.701 9 0.593 7 陷入局部最优解次数 9 2 根据表 2和表 3所得结果可见，不管是高速还是低速状态下，开关磁阻电机制动控制系统采用基于渐近约束支配法则的NSGA-Ⅱ算法相对于传统NSGA-Ⅱ算法，所得制动能量回馈效率、制动转矩脉动系数及陷入局部最优解次数等指标均有大幅改善，相关对比结果如表 4所示。
表 4 两种优化方法的对比结果Tab. 4. Comparison results between two optimization methods指标 低速 高速 制动效率上升率 7.3% 5.0% 制动转矩脉动系数的下降率 18.2% 24.7% 减少陷入局部最优解的次数 7 5 6. 结论
本文针对采用传统优化算法优化开关磁阻电机再生制动控制参数存在制动能量回馈效率低及制动转矩脉动系数大的问题，提出一种基于渐近约束支配法则的双目标非支配排序遗传算法。首先针对采用传统双目标非支配排序遗传算法优化开关磁阻电机再生制动控制参数时存在易陷入局部最优解等不足，提出一种渐近约束支配法则；阐述了该法则的基本原理与具体实现方法，即通过提出种群的3种约束状态及总渐近反约束度等基本概念以及相应的算法搜索与收敛规则，实现对传统双目标非支配排序遗传算法进行改进；再将改进后的双目标非支配排序遗传算法应用于开关磁阻电机再生制动控制参数的优化，并对其效果进行了仿真验证，同时与传统双目标非支配排序遗传算法进行了对比分析，结果表明：相较于传统双目标非支配排序遗传算法，基于渐近约束支配法则的双目标非支配排序遗传算法不仅有效解决了其易陷入局部最优解的问题，而且显著提高了开关磁阻电机再生制动效率并降低了其转矩脉动系数，取得了满意的优化效果。
-
![]()
图 2 原始样本与新生成样本对比
Figure 2. The original sample is compared with the newly generated sample
![]()
图 4 不同隐藏层结构下DCNN的分类性能比较
Figure 4. Comparison of DCNN classification performance under different hidden layers
![]()
图 5 DCNN在原始数据集和经过处理后的数据集上的分类性能对比
Figure 5. Comparison of classification performance of DCNN on raw data sets and processed data sets
表 1 不同隐藏层的参数设置
Table 1 Parameter settings of different hidden layer
层数 layer(3) layer(4) layer(5) layer(6) 输入 150 150 150 150 隐藏层及参数 conv1 conv1 conv1 conv1 (50，60) (40，60) (30，30) (30，30) MaxPool MaxPool MaxPool MaxPool (20，2) (20，2) (15，2) (20，2) conv2 conv2 conv2 conv2 (40，60) (30，60) (20，20) (12，12) MaxPool MaxPool MaxPool (16，2) (12，2) (10，2) conv3 conv3 (12，6) (10，10) MaxPool (6，2) 特征图维度 3 600 3 600 3 600 3 600 最高分类精度 0.987 30 0.991 7 0.989 75 0.988 28 
下载: 导出CSV
表 2 不同隐藏层结构下DCNN的分类精度比较
Table 2 Comparison of DCNN classification accuracy under different hidden layers
迭代次数 精度 layer(3) layer(4) layer(5) layer(6) 100 0.958 98 0.947 75 0.924 80 0.915 53 200 0.971 68 0.973 63 0.948 24 0.929 69 300 0.982 42 0.986 33 0.966 80 0.963 38 400 0.987 30 0.989 26 0.981 93 0.965 82 500 0.987 30 0.991 70 0.981 93 0.965 82 600 0.987 30 0.991 70 0.989 75 0.971 68 700 0.984 38 0.991 70 0.989 75 0.977 54 800 0.984 86 0.991 70 0.989 75 0.982 91 900 0.981 93 0.991 70 0.987 30 0.985 35 1 000 0.979 49 0.989 26 0.987 30 0.988 28
下载: 导出CSV
表 3 不同隐藏层结构下DCNN的训练损失比较
Table 3 Comparison of DCNN training loss under different hidden layers
迭代次数 训练损失 layer(3) layer(4) layer(5) layer(6) 100 0.094 33 0.100 30 0.192 07 0.187 65 200 0.041 56 0.047 42 0.104 10 0.108 50 300 0.020 68 0.026 15 0.058 18 0.066 96 400 0.012 67 0.016 94 0.034 90 0.041 50 500 0.008 84 0.012 09 0.022 90 0.027 74 600 0.006 93 0.009 34 0.016 02 0.019 26 700 0.005 74 0.007 70 0.011 96 0.014 87 800 0.005 16 0.006 60 0.009 10 0.011 62 900 0.004 55 0.005 76 0.006 88 0.009 70 1 000 0.004 26 0.005 26 0.005 38 0.008 22
下载: 导出CSV
表 4 DCNN在原始数据集和经过处理后的数据集上的分类性能对比
Table 4 Comparison of DCNN′s classification performance on raw data sets and processed data sets
迭代次数 原始数据集 处理后的数据集 Acc Loss Acc Loss 100 0.763 67 0.426 72 0.956 05 0.101 25 200 0.763 67 0.373 03 0.983 40 0.050 31 300 0.763 67 0.337 53 0.986 33 0.028 36 400 0.763 67 0.312 02 0.986 33 0.017 76 500 0.763 67 0.293 06 0.989 26 0.012 67 600 0.767 09 0.278 53 0.989 26 0.010 08 700 0.780 76 0.267 11 0.989 26 0.008 06 800 0.828 61 0.257 93 0.989 26 0.006 91 900 0.867 19 0.250 39 0.989 26 0.006 03 1 000 0.874 02 0.244 08 0.986 33 0.005 48
下载: 导出CSV
表 5 不同算法的分类精度
Table 5 Classification accuracy of different algorithms
数据集 特征提取算法 分类器 分类精度 原始数据 PCA SVM 0.553 3 NN 0.721 9 原始数据 SVD SVM 0.822 5 NN 0.890 5 经过本文提出的不平衡时间序列数据处理算法后得到的数据集 PCA SVM 0.724 9 NN 0.736 7 SVD SVM 0.908 3 NN 0.914 2 本文的DCNN方法 0.986 3
下载: 导出CSV
-
[1] 林智勇, 郝志峰, 杨晓伟.不平衡数据分类的研究现状[J].计算机应用研究, 2008, 25(2):332-336. doi: 10.3969/j.issn.1001-3695.2008.02.003 Lin Z Y, Hao Z F, Yang X W. Research status of unbalanced data classification[J]. Application Research of Computers, 2008, 25(2):332-336. doi: 10.3969/j.issn.1001-3695.2008.02.003
[2] 王晓娟, 郭躬德.不平衡数据采样方法的对比学习[J].微计算机信息, 2011(12):155-157. http://www.wanfangdata.com.cn/details/detail.do?_type=perio&id=QK201103998987 Wang X J, Guo G D. Comparative study of unbalanced data sampling method[J]. Microcomputer Information, 2011(12):155-157. http://www.wanfangdata.com.cn/details/detail.do?_type=perio&id=QK201103998987
[3] Li J, Li H, Yu J L. Application of random-SMOTE on imbalanced data mining[C]//Fourth International Conference on Business Intelligence and Financial Engineering. Piscataway, NJ, USA: IEEE, 2011: 130-133. https://www.researchgate.net/publication/254018649_Application_of_Random-SMOTE_on_Imbalanced_Data_Mining
[4] Chawla N V, Bowyer K W, Hall L O, et al. SMOTE:Synthetic minority over-sampling technique[J]. Journal of artificial Intelligence Research, 2002, 16:321-357. doi: 10.1613/jair.953
[5] 许丹丹, 王勇, 蔡立军.面向不均衡数据集的ISMOTE算法[J].计算机应用, 2011, 31(9):2399-2401. http://d.old.wanfangdata.com.cn/Periodical/jsjyy201109025 Xu D D, Wang Y, Cai L J. ISMOTE algorithm for unbalanced data sets[J]. Journal of Computer Applications, 2011, 31(9):2399-2401. http://d.old.wanfangdata.com.cn/Periodical/jsjyy201109025
[6] Cao H, Li X L, Woon Y K, et al. Integrated oversampling for imbalanced time series classification[J]. IEEE Transactions on Knowledge and Data Engineering, 2013, 25(12):2809-2822. doi: 10.1109/TKDE.2013.37
[7] Ding H, Trajcevski G, Scheuermann P, et al. Querying and mining of time series data[J]. Proceedings of the Vldb Endowment, 2008, 1(2):1542-1552. doi: 10.14778/1454159
[8] Keogh E, Kasetty S. On the need for time series data mining benchmarks:A survey and empirical demonstration[J]. Data Mining & Knowledge Discovery, 2003, 7(4):349-371. doi: 10.1023-A-1024988512476/
[9] Yang Y, Deng Q, Shen F, et al. A shapelet learning method for time series classification[C]//International Conference on TOOLS with Artificial Intelligence. Piscataway, NJ, USA: IEEE, 2017: 423-430. https://www.researchgate.net/publication/307134650_A_Shapelet_Learning_Method_for_Time_Series_Classification
[10] 孙其法, 闫秋艳, 闫欣鸣.基于多样化top-k shapelets转换的时间序列分类方法[J].计算机应用, 2017, 37(2):335-340. http://d.old.wanfangdata.com.cn/Periodical/jsjyy201702006 Sun Q F, Yan Q Y, Yan X M. Classification of time series based on diversified top-k shapelets conversion[J]. Journal of Computer Applications, 2017, 37(2):335-340. http://d.old.wanfangdata.com.cn/Periodical/jsjyy201702006
[11] 周飞燕, 金林鹏, 董军.卷积神经网络研究综述[J].计算机学报, 2017, 40(6):1229-1251. http://d.old.wanfangdata.com.cn/Periodical/jsjxb201706001 Zhou F Y, Jin L P, Dong J. An overview of convolutional neural network research[J]. Chinese Journal of Computers, 2017, 40(6):1299-1251. http://d.old.wanfangdata.com.cn/Periodical/jsjxb201706001
[12] Cui Z, Chen W, Chen Y. Multi-Scale convolutional neural networks for time series classification[J/OL]. arXiv: 1603.06995.[2018-01-20]. http://xueshu.baidu.com/s?wd=paperuri%3A%289f44ff3471953143144883e017f17356%29&filter=sc_long_sign&tn=SE_xueshusource_2kduw22v&sc_vurl=http%3A%2F%2Farxiv.org%2Fabs%2F1603.06995&ie=utf-8&sc_us=7768111178099589474.
[13] Wang Z, Yan W, Oates T. Time series classification from scratch with deep neural networks: A strong baseline[C]//International Joint conference on Neural Networks. Piscataway, NJ, USA: IEEE, 2017: 1578-1585. https://www.researchgate.net/publication/310611022_Time_Series_Classification_from_Scratch_with_Deep_Neural_Networks_A_Strong_Baseline?ev=prf_high
[14] Zhao B, Lu H, Chen S, et al. Convolutional neural networks for time series classification[J]. Journal of Systems Engineering and Electronics, 2017, 28(1):162-169. doi: 10.21629/JSEE.2017.01.18
[15] He H, Garcia E A. Learning from imbalanced data[J]. IEEE Transactions on Knowledge and Data Engineering, 2009, 21(9):1263-1284. doi: 10.1109/TKDE.2008.239
[16] Lekha L, Suchetha M. Real-time non-invasive detection and classification of diabetes using modified convolution neural network[J]. IEEE Journal of Biomedical & Health Informatics, 2018, 22(5):1630-1636. http://cn.bing.com/academic/profile?id=0ba8d658be3d11850c63fe52db5d67d7&encoded=0&v=paper_preview&mkt=zh-cn
[17] Ince T, Kiranyaz S, Eren L, et al. Real-time motor fault detection by 1-D convolutional neural networks[J]. IEEE Transactions on Industrial Electronics, 2016, 63(11):7067-7075. doi: 10.1109/TIE.2016.2582729
[18] 黄文坚, 唐源. TensorFlow实战[M]. 1版.北京:电子工业出版社, 2017. Hu W J, Tang Y. TensorFlow practical experience[M]. 1st ed. Beijing:Electronics Industry Press, 2017.
[19] Abadi M, Barham P, Chen J, et al. TensorFlow: A system for large-scale machine learning[C]//Proceedings of the 12th USENIX conference on Operating Systems Design and Implementation. Berkeley, CA, USA: USENIX Association, 2016: 265-283. https://www.researchgate.net/publication/303657108_TensorFlow_A_system_for_large-scale_machine_learning
[20] 李慧.奇异值分解在时间序列分析中的应用[D].北京: 北京交通大学, 2009. http://www.wanfangdata.com.cn/details/detail.do?_type=degree&id=Y1576154 Li H. The application of singular value decomposition in time series analysis[D]. Beijing: Beijing Jiaotong University, 2009. http://www.wanfangdata.com.cn/details/detail.do?_type=degree&id=Y1576154
[21] 郑恩辉, 李平, 宋执环.不平衡数据知识挖掘:类分布对支持向量机分类的影响[J].信息与控制, 2005, 34(6):703-708. doi: 10.3969/j.issn.1002-0411.2005.06.013 Zheng E H, Li P, Song Z H. Unbalanced data knowledge mining:Influence of class distribution on support vector machine classification[J]. Information and Control, 2005, 34(6):703-708. doi: 10.3969/j.issn.1002-0411.2005.06.013
-
期刊类型引用(3)
1. 孙文革. 总相位滞后角-延时关系下的电子机械制动主控制器控制方法. 自动化与仪表. 2024(01): 6-10 . 
百度学术
2. 张彩婷，李化龙，吕阳伟，孙赟. 基于改进NSGA-Ⅲ算法的抽油机井群控变频启动技术. 化工自动化及仪表. 2024(02): 319-324+337 . 百度学术
3. 解思瑶. 基于改进NSGA-Ⅱ算法的无线通信网络拓扑重组优化方法. 信息记录材料. 2024(04): 74-75+78 . 百度学术
其他类型引用(4)
计量
- 文章访问数: 1445
- HTML全文浏览量: 22
- PDF下载量: 419
- 被引次数: 7
