基于电信行业小波神经网络模型的应用
第30卷第6期吉林大学学报(信息科学版)V01.30No.62012年11月JournalofJilinUniversity(InformationScienceEdition)Nov.2012文章编号:1671-5896(2012)06-0598-06
基于电信行业小波神经网络模型的应用
李雷
(西南财经大学高级工商管理教育中心,成都610075)
摘要:为对未来电信业务总量和各类用户数进行有效预测,通过分析历年电信业务总量和各类用户数,建立小
波神经网络预测模型,以提高预测精度。在神经网络预测模型建立中,神经网络中的转移函数使用小波函数替
代,从而得到小波基神经网络系统;通过对自适应学习速度和参数初始值选取的改进,获得高几率初始参数并
加快算法收敛速度。
关键词:小波神经网络;电信行业;参数初始化;经济预测;自适应学习速度
中图分类号:TP391文献标识码:A
ResearchforWaveletNeuralNetworkModelBasedonTelecommunications
LILei
(ExeetiveMasterofBusinessAdministrationEducationCenter,SouthwesternUniversityofFinanceandEconomics,Chengdu610075,China)Abstract:Itisnecessarytogivemoreefficientmethodforforecastingtheestimatetelecommunication.AmodelbasedonWaveletNeuralNetworkiSintroducedintelecommunicationstoforecasttheincomeandtheuesers.TobuildwaveletbasisNN(NeuralNetwork),thesigmoidfunctionisreplacedwiththewaveletinNN,andadaptivelearningrateandinitializationofparametersarealsousedtoobtainhighprobabilityandhighconvergencespeed.Whenamodelofwaveletneuralnetworkisestablishedtoforecastthegrossserviceintelecommunications,subjectiveguideddataisintroducedinconsiderationoftheimpactofindustryconvergenceonfuturetelecomindustry.
Keywords:waveletneuralnetwork;telecommunicationindustry;initializationofparameters;economics
forecasting;adaptivelearningrate
0引言
传统的时间序列预测分析主要是确定性时间序列分析方法,包括指数平滑法、滑动平均法和时间序列分解等,这些方法都是以时间序列随机性部分相对不显著为前提条件。小波神经网络是基于小波变换而构成的神经网络模型,即用非线性小波基取代通常的神经元非线性激励Sigmoid函数。这方面工作大约开始于1992年,主要报道有Zhang等¨1和焦李成旧j,其中焦李成从理论上对小波神经网络进行了较详细的论述。研究表明小波神经网络的逼近能力比利用Sigmoid函数作为激活函数更好。而且在分析非固定信号和构造非线性函数模型方面,小波具有卓越的性能,因此结合小波基函数的小波神经元网络比一般神经网络具有更多的优越性。小波神经网络预测曾被应用于证券、电力、税收、煤炭、石油和汽车等行业p‘15I,但这些文献中均没有详细探讨小波神经网络收敛速度和参数初始值的选择对整个算法的重要影响。
收稿日期:2012-04-09
基金项目:国家自然科学基金资助项目(70473006)
作者简介:李雷(1972一),男,成都人,西南财经大学副教授,主要从事管理信息系统、供应链管理研究,(Tel)86.13908239057(E-mail)rmn0964@163.com。
第6期李雷:基于电信行业小波神经网络模型的应用599
笔者将小波神经网络预测方法应用在电信行业中,在小波神经网络基础上,通过对传统小波神经网络算法学习速度和参数初始值选取的改进,利用历年电信行业业务总量和用户数作为输入数据,建立系统的小波神经网络预测模型,对未来的业务总量和用户数进行预测。
1小波神经网络模型
假设观测样本为k(1),五(2),…,k(n),用其中的m个观测值预测m+1时刻的值痞(m+1),即建立从k(1+1),k(2+2),…,k(1+m)到磊(Z+m+1)的非线性映射关系,即
_j}(Z+m+1)=以k(f+1),k(1+2),…,k(Z+m)]
采用小波神经网络对观测样本进行预测,其结构O线性神经元
经元(见图1)是一个多输入单输出的系统。输入层有m个
节点,输入向量为x=[_|}(Z+1),k(Z+2),…,k(Z+
m)],隐含层有日个节点,Uu为输入层第i个节点到
隐含层的连接权,形为隐含层第歹个节点到输出层的
连接权,6i为小波函数的平移系数,口j为小波函数的
伸缩系数,网络输出有以下关系式
二!砌+m+1):圭髟奶f塾竺!!:兰j}(z+m+)=∑髟奶l鱼::!::::::i=I、~图I
Fig.1小波神经网络结构图隐含层节点激励函数采用的小波函数应该满足关
系式Thediagramofwaveletneuralnetwork
仁阳岫-0
在这里采用时频分辨率较高的Morlet小波
砂(t)=c。s(1.75t)exp(一等)
显然预测值与实际值之间的误差取决于网络参数U"%、q和aj。笔者采用LMS能量函数作为评价函数
E=了1∑1k(1+m+1)一k(1+m+1)I
厶f=02
孤OE=“-荟m-I吾H咄(/+m+1)一k(1+m+1)][1.75sin(1.75∽“cos(1.75t')]半exp(≠)
薏√蓦1茎咄(/+m+1)一k(/+m+1)]cos(¨5t『)唧(≠)
嚣』蓦1耋咄(/+m+1)一k(/+m+1)][1.75sin(1.75∽“cos(1.75∽]荨唧(≠)筹』蓦1骞吣(/+m+1)一k(/+m+1)][1.75sin(1.75∽“cos(1.75∽]1矿xp(≠)其中系统输入权、输出权、节点平移参数和伸缩参数的修正公式如下。,:生
aj
%(n7)=%(n’一1)一叼瓦OE+aIvi(n7—1)一%(n’一2)]
形(n’)=%(n7—1)一叼丽OE+0[[哆(n7一1)一嘭(凡’一2)]呵(n’)=q(n,一1)一叼a0E口:+a[q(凡’一1)一哆(n’一2)]
吉林大学学报(信息科学版)第30卷
6J(n’)=6J(凡’一1)一叼面0E+引q(凡’一1)一q(n’一2)]
其中,7为学习速度,a为动量因子,nI为迭代次数。则此时,系统的LMS能量函数E(n’)表示为
E(n7)=了1∑Ik(1+m+1)一k(t+m+1)I
-Z=02=
《『k(1+m+1)-j塞=l州叫
对于学习速度T/,笔者采用自适应的学习速度,其初始值由输入样本决定,为芒坐L。如果E(n’)
∑Ji}(i)i=l型掣aj(n’)玎,l
与E(nL1)相比,减少并超过某个设置的百分数亭(典型值为1%-5%),学习速度乘以一个大于1的因子,接受%、%、ai和I的更新;如果E(n’)与E(n’一1)相比,增加并超过百分数f(典型值为1%一5%),学习速度乘以一个小于1的因子,并且放弃各种参数的更新。动量因子a选取0.5—0.9之间的常数。
2小波神经网络初始值的选择
参数的初始值设置对小波神经网络的后续训练相当重要。初始值选择得适当,可加快算法收敛速度;初始值设置不当,训练次数增加,以至于不收敛。对于网络参数初始值设置采用下面方法。
2.1U。i的设置
首先随机产生[一1,1]区间上均匀分布的随机数作为阢,的初始值;对以i按列进行归一化处理
以i=—=兰J=1,2,…,日,,
~售…|■U??2
再乘以一个与输入层数节点数m、隐含层节点数日以及传递函数的相关因子c
Ui=CHumUij=1,2,…,H
其中C是和隐含层传递函数相关的一个常数。笔者采用morlet小波c的取值为2.3~2.6之问。最后再与学习样本发生联系,设输入层第i个节点的输入样本中的最大值为茁抽,,最小值为茁洒。,则
”:芝
2.2小波平移系数q和伸缩系数吁的设置
由小波基础理论知,若母小波的时域中心为t+,半径为A沙,则小波伸缩系数在时域的集中区域为[b+at‘一aA沙,b+at4+aA砂]。
为使小波伸缩系数覆盖输入向量的整个范围,则伸缩平移系数的初始设置必须满足
+
+,£一q△沙=∑%劬i=l
+
小¨小1+吁£+吁△吵=∑up岫i=1
由此可得
q2———面忑—一∑Uo.x面。一∑UqxⅢ。
q2———————瓦蕊厂————一∑u铲油。(△砂一t’)+∑%枷。(△妒+t+)
第6期李雷:基于电信行业小波神经网络模型的应用
1。601对于morlet小波其时域中心窗口为0,半径为0.707
而对于隐含层到输出层的初始参数设置,输出层大多采用线性神经元,则用[一1,1]区间上均匀分布的随机数作为初始值即可。
3实验结果及分析
该实验用中华人民共和国国家统计局网上提供的1990~2007年的电信业务总量数据建立电信业务总量时间序列小波网络预测模型。实验将1990~2004年数据作为训练样本训练网络,2005~2007年数据作为测试集将其与实际结果进行比较,并预测2008~2009年的电信业务总量(见表1)。为提高预测精度,首先通过Ri=lg(后i)一lg(kH)对数据进行归一化处理,将其转化为[一1,1]之间。
表1
Tab.1电信业务总量预测结果Theforecastoutcomeoftheincomesoftelecommunications
从表1可看出,在相同训练精度的条件下,小波神经网络方法的预测误差相对误差绝对值的平均值AARE比神经网络方法减少了约3%,且收敛速度快了近3倍。
构造小波神经网络,确定网络的输入层节点数和隐含层节点数。通过不断实验,选取输人层的节点数为5,隐含层节点数为8,系统收敛效果较好。分别采用传统的神经网络和小波神经网络两种方法,两种网络采用相同的网络结构和训练误差,对已有的数据进行预测检测(见表2)。
图2显示了原始数据、神经网络预测数据和小波神经网络预测数据的曲线拟合。
表2小波神经网络与传统神经网络比较lR
Tab.2ThecomparisononWNNandtraditional墼
鱼
×neuralnetwork捌
增
球
爿
埋
翘
从图2可看出,从1995年开始,把用小波网络
的预测曲线和神经网络的预测曲线与原始数据曲线
进行拟合,明显可以看出,小波神经网络的预测曲
线拟合度较高。
对中国固定电话用户数预测结果如表3所示。Fig.2图2电信业务总量增长图Thegrowthdiagramoftheincomesoftelecommunications
表3
Tab.3固定电话用户数预测结果usersTheforecastoutcomeofthenumberoffixedtelephone
对移动电话用户数预测和算法比较如表4所示。
602吉林大学学报(信息科学版)第30卷
对互联网用户数预测和算法比较如表5所示。
表5互联网用户数预测结果
,I址.5卟eforecastoutcomeofthenumberofinternetusers
为比较3类用户数的过去和未来的发展情况,笔者把1990~2007年3类用户数的实际数据和2008~2009年的预测数据进行了比较,结果如图3所示。通过图3可以看出,我国固定电话用户数在2006。2007年左右到达一个峰值,然后开始进入下降;移动电话用户数从2000年至2010年依然保持较高的增长速度,用户数大量增加;互联网用户数2006年进入一个井喷式增长,从2006年到2010年,互联网用户数虽然还远低于移动电话用户数,但其增长率却是最高。以上预测基本符合现实情况,而我国各大运营商也是基于此趋势做出了大力发展移动用户数和互联网用户数的决策,并且投巨资建设移动互联网这一新兴产、Ik。
图3
Fig.3各类用尸数的比较uesersThecomparisonofallkindsof
4结语
通过对算法和模型的优化,得出近几年和未来几年的电信业务总量和各类用户数的增长和发展趋势。并通过近几年电信产业的实际数据与预测数据进行比对,得出小波神经网络预测方法比传统预测方法的具有一定的优越性。
参考文献:
[1]ZHANGQH,BENVENISTEA.WaveletNetworks[J].IEEETransonNeuralNetworks,1992,3(6):889-898[2]焦李成.神经网络系统理论[M].西安:西安电子科技大学出版社,1996.
第6期李雷:基于电信行业小波神经网络模型的应用603
JIAOLi-cheng.TheTheoryofNeuralNetworkSystem[M].Xi’an:PublishingHouseoftheXidianUniverstiy,1996.[3]武海巍,于海业,张蕾.光合有效辐射预测模型的核函数组合优化[J].农业机械学报,2011,42(6):167—173.
WUHal—wei,YUHat-ye,ZHANGLet.OptimizePhotosyntheticActiveRadiationForecastingModelBasedonKernelFunctionCombination[J].Transactions
[4]MANIMALAoftheChineseSocietyforAgriculturalMachinery,2011,42(6):167—173.QualityDataMiningUsingK,SELVIK,AHILAR.OptimizationTechniquesforImprovingPowerWavelet
PacketBasedSupportVectorMachine[J].Neurocomputing,2012,77(1):36-47.
ModelBasedPredictiveContmlofLiquidExtraction[5]FAROUQSM.NeuralNetworkContactors[J].ChemicalEngineering
Science,2005,60(1):239-253.
[6]赵宏伟,王立江,臧雪柏.基于人工神经网络的振动钻削仿真与优化[J].吉林工业大学学报,2000,30(2):10—14.
ZHAOHong-wet,WANG
NeuralLi-jiang,ZANGXue-bat.VibrationDrillingSimulationandParametricOptimumBasedonArtificialNetwork[J].JournalofJilinUniversity
ModelsofofTechnology,2000,30(2):10—14.PacketVideo[7]MAGLARIESB.PerformanceMultiplexinginCommunications[J].IEEETransactionon
Communication,1988,36(7):78—82.
[8]QIILANL,MENDELJM.MPEGVBRVideoTraffic
onModelingandClassificationUsingFuzzyTechnique[J].IEEETrans—actionsFuzzySystems,2001,9(1):183・193.
[9]BOR—SENC,SEN—CHUEHP,KU—CHENW.TrafficModeling,Prediction,andCongestionControlforHigh—SpeedNetworks:
AFuzzyARApproach[J].IEEETransactionsonFuzzySystems,2000,8(5):491-508.
[10]邓聚龙.灰色系统基本方法[M].武汉:华中理工大学出版社,1996:70-75.
DENGJu.10ng.BasicMethodoftheGreySystem[M].Wuhan:University
onofScienceandTechnologyPress,1996:70-75.[11]DAUGMANJ,DOWNING
InformationForensicsandC.EffectofSevereImageCompressionIrisRecognitionPerformance[J].IEEETransactionsonSecurity,2008,3(1):52-61.
Recognition[J].Machine
oftheVisionApplication,[12]WILDES[13]WILDES
1363.RP,ASMUTHJC,GREENGL.AMachineVisionSystemforIris1996,9(1):1-8.RP.IrisRecognition:AnEmergingBiometricTechnology[J].ProceedingIEEE,1997,85(9):1348—
[14]王洪元,史国栋.人工神经网络技术及其应用[M].北京:中国石化出版社,2002:70-72.
WANGHong.yuan,SHIGuo-dong.ArtificialNeuralNetworkTechnologyand
Press,2002:70-72.Application[M].Beijing:ChinaPetrochemical
[15]WANGZF,HANQ.ANovelIrisLocationAlgorithm[J].InternationalJournalofPatternRecognitionandArtificial
InteHigence,2009,23(1):59-70.(责任编辑:刘东亮)
基于电信行业小波神经网络模型的应用
作者:
作者单位:
刊名:
英文刊名:
年,卷(期):李雷, LI Lei西南财经大学高级工商管理教育中心,成都,610075吉林大学学报(信息科学版)Journal of Jilin University(Information Science Edition)2012,30(6)
1.ZHANG Q H;BENVENISTE A Wavelet Networks[外文期刊] 1992(06)
2.焦李成 神经网络系统理论 1996
3.武海巍;于海业;张蕾 光合有效辐射预测模型的核函数组合优化[期刊论文]-农业机械学报 2011(06)
4.MANIMALA K;SELVI K;AHILA R Optimization Techniques for Improving Power Quality Data Mining Using Wavelet PacketBased Support Vector Machine 2012(01)
5.FAROUQ S M Neural Network Model Based Predictive Control of Liquid Extraction Contactors 2005(01)
6.赵宏伟;王立江;臧雪柏 基于人工神经网络的振动钻削仿真与优化 2000(02)
7.MAGLARIES B Performance Models of Multiplexing in Packet Video Communications 1988(07)
8.QIILAN L;MENDEL J M MPEG VBR Video Traffic Modeling and Classification Using Fuzzy Technique 2001(01)
9.BOR-SEN C;SEN-CHUEH P;KU-CHEN W Traffic Modeling,Prediction,and Congestion Control for High-Speed Networks:AFuzzy AR Approach 2000(05)
10.邓聚龙 灰色系统基本方法 1996
11.DAUGMAN J;DOWNING C Effect of Severe Image Compression on Iris Recognition Performance[外文期刊] 2008(01)
12.WILDES R P;ASMUTH J C;GREEN G L A Machine Vision System for Iris Recognition 1996(01)
13.WILDES R P Iris Recognition:An Emerging Biometric Technology 1997(09)
14.王洪元;史国栋 人工神经网络技术及其应用 2002
15.WANG Z F;HAN Q A Novel Iris Location Algorithm[外文期刊] 2009(01)
本文链接:http://d.g.wanfangdata.com.cn/Periodical_ccydxyxb201206008.aspx