2024年3月31日发(作者：)
第33卷第1期 2012年3月军 事 通 信 技 术JournalofMilitaryCommunicationsTechnologyVol.33No.1Mar.2012压缩感知新技术专题讲座(二)第3讲 压缩感知技术中的信号稀疏表示方法周 彬1,朱 涛2,张雄伟3(1.解放军理工大学指挥自动化学院研究生2队,江苏南京210007;2.中国人民解放军66242部队,内蒙古锡林郭勒026000;3.解放军理工大学指挥自动化学院信息作战系)X摘 要:信号的稀疏表示是信号分析领域的基本问题,也是近几年兴起的压缩感知理论的基础。文章首先分析了信号稀疏表示的基本原理,然后介绍了当前信号稀疏表示的主要方法,并重点阐述了基于过完备字典的稀疏表示方法及其在压缩感知中的应用,最后总结了稀疏表示所面临的问题和未来发展方向。关键词:稀疏表示;压缩感知;字典学习中图分类号:TN911.7文献标识码:A文章编号:CN32-1289(2012)01-0085-05SparseRepresentationofSignalsinCompressiveSensingZHOUBin1,ZHUTao2,ZHANGXiong-wei3(aduateTeam2ICA,PLAUST,Nanjing210007,China;66242ofPLA,Xilinguole026000,China;mentofInformationOperationStudiesICA,PLAUST)Abstract:Thesparserepresentationisabasicprobleminsignalanalyinsomemainmethodsofthesparserepresentation,ds:sparserepresentation;compressivesensing;overcompletedictionary 随着现代传感器技术的发展,许多领域面临着日益膨胀的海量数据,如地球物理数据、视频数据、天文数据、基因数据等。如何实现对这些数据更为灵活、简洁的表达已成为一个倍受关注的问题。传统的信号表示方法通常是基于正交基(如傅里叶基,小波基)的展开。为了实现信号的灵活、简洁和自适应的表示,一种更好的信号分解方式是根据信号本身的特点,自适应地选择合适的基函数,来完成信号的分解,从而得到信号的一个非常简洁的表达,即稀疏表示。由于信号的稀疏表示能在一定程度上自然地贴近信号的本质特征,因而对稀疏分解的研究有极其重要而深远的理论意义和广泛的应用价值。目前,稀疏表示被广泛应用于信号处理和图像处理的各个领域,如图像压缩、音频压缩、噪声抑制、盲信号分离、地震数据处理、系统辨识、雷达成像处理等等。尤其是近年来新兴起的压缩感知(compressedsensing)理论[1,2],其优点就是针对可稀疏表示的信号,将传统的数据采集与数据压缩合二为一,在获取信号同时对数据进行压缩。压缩感知理论的一个重要基础和前提就是选择信号的稀疏域,只有选择合适的基矩阵才能保证信号的稀疏度,从而保证信号的恢复精度。由于压缩感知理论的提出和蓬勃发展,稀疏表示越来X收稿日期:2011-10-18;修回日期:2011-12-12作者简介:周 彬(1986-),男,博士生.
86军 事 通 信 技 术2012年 [3]越表现出它的优越性,许多人将目光投向这个领域,并进行了大量的研究,取得了广泛而深入的研究成果。1 信号稀疏表示1.1 信号的稀疏性 考虑RN空间一个实值的有限长一维离散时间信号x,假设{Wiûi=1,…,N}是RN的一组基向量,则RN空间的任何信号x可以线性表示为Nx=∑si=1iWi 或 x=7s(1)其中,7=[W1ûW2û…ûWN]是N×N的基矩阵,s是x在7域的变换向量,si=
第1期周 彬等:压缩感知技术中的信号稀疏表示方法87 (2)Candes等进一步指出,在感知矩阵(满足约束等距性条件的前提下,如果要精确重构K稀疏信号x,测量次数M必须满足M≥O(Klog(N))。因此,信号的稀疏度K越小,稀疏性越强,保证信号重构所需的测量次数越少。在研究信号的稀疏表示时,可以通过变换系数衰减速度来衡量变换基的稀疏表示能力。Candes和Tao研究表明,满足具有幂次衰减速度的信号,可利用压缩感知理论得到恢复。2 压缩感知中信号稀疏表示的主要方法目前,信号的稀疏分解已经发展了多种算法。从信号展开的基的选择出发,概括起来说可以分为三大类:正交基展开方法、多尺度几何分析方法和基于过完备字典的展开方法。2.1 正交基展开方法正交基展开方法主要基于调和分析理论。常用的正交分解包括傅里叶变换、短时傅里叶变换和小波变换。从傅里叶变换到小波分析,信号分析处理能力不断加强。傅里叶变换只对频率空间进行均匀划分;短时傅里叶变换增加了时间轴的划分,具有时频局部特性,但是各个时频窗口的形状大小都是一致的;小波变换的时频窗口可变,时频局部化能力大大增强,但是小波分析在一维时所具有的优良特性并不能简单地推广到二维或者更高维。它们共同的特点就是对于给定信号的表示形式唯一,一旦信号的特性与基函数不完全匹配,则不一定能够获得信号的稀疏分解结果。因此,迫切需要寻求新的信号稀疏表示方法。2.2 多尺度分析方法多尺度几何分析MGA(MultiscaleGeometricAnalysis)是以“最优”图像表示理论为基础而提出的一类新方法,它的提出主要是为了解决高维空间数据稀疏表示的问题。根据生理学家和人类视觉系统的研究结果和自然界图像统计模型,“最优”图像表示方法应该具有如下特性:¹多分辨率,能够对图像从粗分辨率到细分辨率进行连续近似,也即“带通”性;º局域性,在空域和频域,该表示的“基函数”都必须是局部的;»方向性,表示的“基函数”应该具有不同的形状,特别地具有不同的纵横比,这样有利于更稀疏地表示图像的轮廓。自从多尺度几何分析的首次提出,短短的几年时间内,其理论构建和应用已经得到深入展开,广泛应用于数学分析、计算机视觉、模式识别、统计分析等不同学科领域。到目前为止,提出的多尺度几何分析方法有Hou等人提出的Beamlet变换,Candes等人提出的Ridgclct变换和Curvelet变换,Meyers等人提出的Brusheflet变换,Donolct等人提出的Wedgelet和Edgelet变换,Do等人提出的Contourlet变换,Permec提出的Bandelet变换,Velisavljevic等人提出的Directionlet变换,以及Yue等人提出的Surfacelet变换等。2.3 过完备字典表示方法信号在过完备字典下的稀疏分解是一种全新的信号表示理论,也是近几年信号稀疏表示研究领域的热点和难点[5]。它的基本思想最早是由Mallat提出的。Mallat采用超完备Gabor字典对图像进行稀疏表示,并提出了匹配追踪MP(MatchingPursuit)算法[6]。参考文献[7]根据图像的几何结构特性,从人类视觉系统特性出发,建立了匹配各层面图像结构的Gabor感知多成份字典,进而提出一种高效的基于匹配追踪的图像稀疏分解算法。在过完备字典中,用于稀疏表示的不再是“单一基”,而是通过构造或学习得到的冗余原子库,通过提高变换系统的冗余性增强信号逼近的灵活性,提高对图像等复杂信号的稀疏表示能力。由于过完备稀疏表示理论还不够成熟,算法所涉及的计算十分繁重,因此给实际研究和应用带来一定的困难。可以相信,随着对该理论的进一步研究和完善,该方法将有可能成为继正交分解方法和多尺度几何分析方法之后另一研究高潮。信号在过完备字典下的稀疏表示的研究集中在两个方面:¹如何构造一个适合某一类信号的过完备字典;º如何设计快速有效的稀疏分解算法。目前,构造过完备字典的方法主要包括人工构造和训练学习两大类。其中,基于人工构造方法的过完备字典设计是当前的主流方法,它主要是通过一组参数和一套含参数的函数中选取若干函数来近似表示信号。
88军 事 通 信 技 术2012年 其中,参数的选取是字典设计中一个很重要的问题。理论和实验表明,在字典的相关性满足一定条件的前提下,就能够得到信号在该字典下的稀疏表示。字典设计的优点是不需要存储整个字典,只需要存储字典的相关参数,从而大大减小了存储量。但是,由于设计的字典一般与原信号无关,因而不具有自适应性。其次,当字典中的原子维数很大时,存储字典的某些参数如Gram矩阵等仍然需要较大的存储量。基于训练学习方[8]法的过完备字典是当前过完备字典设计问题的难点和热点。通过训练、学习得到的字典与信号相关,具有信号自适应性。目前字典学习的方法大多是通过迭代来更新字典和信号在字典下的稀疏表示。例如,K-[9]SVD稀疏字典学习算法基于K-均值聚类的思想,用某聚类的中心点来表示信号。该算法稀疏表示效果好,计算复杂度低,但不足之处是缺乏严格的理论支撑。基于递归最小均方的字典学习方法(RLS-DLA)中对字典的更新是一个连续的过程,即每处理一个训练数据,字典进行一次更新,同时又引入了遗忘因子,因此减小了对初始字典的依赖性,且收敛性较好。从稀疏分解算法角度来讲,主要可分为三类:¹松弛优化算法:主要思路是将原先非凸优化替换为凸的或更为容易处理的稀疏性度量函数,转换后的凸规划或非线性规划问题可采用诸多现有的高效优化算法进行求解,以此来逼近求解原先的组合优化问题,降低了问题的复杂度,例如框架方法MOF(MethodofFrames)、基追踪BP(BasisPursuit)算法、欠定系统解迭代FOCUSS(FocalUnderdeterminedSystemSolu-tion)算法、梯度投影稀疏重构GPSR(GradientProjectionSparseReconstruction)算法、交替投影(AlternateProjection)算法等;º贪婪追踪算法:其主要思想是通过特定的相似性度量准则从字典中逐次选择用于信号分解的原子,不断迭代此过程可构成对原信号的稀疏逼近,由此较低问题的复杂度。在音视频信号处理方面,基于贪婪迭代思想的匹配追踪MP(MatchingPursuit)算法表现出极大的优越性,但不是全局最优解。此后又出现了一系列同样基于贪婪迭代思想的改进算法,如正交匹配追踪算法OMP(OrthogonalMatching树形匹配追踪TMP(Tree-basedMatchingPursuit)、分段匹配追踪StOMP(Stage-wiseOMP)算Pursuit)、法等[10];»组合优化算法:主要采用分支-切割法(branch-and-cut)、割平面法(cutting-plane)、智能计算等方法直接求解组合优化问题。2.4 压缩感知中的信号稀疏表示方法目前对于压缩感知中稀疏矩阵的研究大多仍集中在固定的正交基矩阵。而对于具有复杂特征的信号如自然图像、声音信号来说,固定的正交基不足以捕获信号的多种特征,使图像在变换域足够稀疏。例如,正交小波变换由于缺乏平移旋转不变性而不能有效压缩几何图像。大量的研究表明过完备冗余字典下的信号稀疏表示更加有效,而这方面的研究也有了一定的进展。因此,能否将压缩感知理论中的稀疏表示从固定的正交基扩展到冗余字典,引起了人们巨大的研究兴趣[11,12]。显然,采用冗余字典可以增强信号的稀疏性,进而可以以更高的概率从更少的观测值中恢复信号。但是,在等距约束性准则驱动的可压缩信号压缩感知定理中,关于稀疏字典7和测量矩阵5仅要求两者乘积即感知矩阵(=57满足RIP。而在测量矩阵设计中关于压缩测量个数M的界定还额外附加了假设条件,即稀疏字典7是正交基。所以当稀疏字典7不再正交时,需要设计鲁棒的测量矩阵5使之与过完备稀疏字典7的乘积依然满足RIP,同时需要重新估计压缩测量个数M的下限。研究表明如果信号在冗余字典而不是正交基下稀疏,且某些类型的随机矩阵和确定性的字典组合而成的矩阵具有很小的有限等距常量(满足RIP性质),则在冗余字典下稀疏的信号就可以通过基追踪算法从少量的随机观测值中恢复出来。当然,另一方面由于冗余字典中的原子数量一般情况下都很大,如稀疏表示声音信号的复杂成分或自然图像中的几何特征都需要大量的原子,故基于冗余字典的压缩感知理论在理论上寻优的稳定性问题及计算复杂度高的问题,还有待进一步深入地研究。此外,在构造稀疏矩阵和稀疏分解方法时,还应考虑以下因素:便于硬件实现和优化算法实现;需要最少的采集数据;具有普适性等。同时应当注意,对信号稀疏表示的研究不能脱离压缩感知的整个框架,这是因为稀疏表示与测量值个数和信号重建精度有着密切的联系,所以对稀疏字典的设计应该与测量矩阵的设计和重构算法统筹考虑。3 结束语本文对信号的稀疏表示理论进行了描述,详细阐述了信号稀疏表示的不同方法,综述了国内外研究成
第1期周 彬等:压缩感知技术中的信号稀疏表示方法89 果。最后,重点介绍了压缩感知中的信号稀疏表示方法。尽管目前信号稀疏表示仍存在着诸多问题,例如对于带噪信号的稀疏表示问题、复杂度和实时性等难点,但是由于其相对于传统信号表示方法所具有的高效性,尤其是与压缩感知技术相结合产生的巨大潜力,可以预见,该领域的研究必将成为近几年的热点,其研究成果也将对信号处理等领域产生重大影响。参考文献:[1] ssedsensing[J].IEEETransactiononInformationTheory,2006,52(4):1289-1306.[2] CandesE,RombergJ,uncertaintyprinciples:exactsignalreconstructionfromhighlyincompletefrequen-cyinformation[J].IEEETransactionsonInformationTheory,2006,52(2):489-509.[3] 石光明,刘丹华,高大化,等.压缩感知理论及其研究进展[J].电子学报,2009,37(5):1070-1081.[4] 孙玉宝.图像稀疏表示模型及其在图像处理反问题中的应用[D].南京:南京理工大学,2010.[5] 张春梅,尹忠科,肖明霞.基于冗余字典的信号超完备表示与稀疏分解[J].科学通报,2006,51(6):628-633.[6] MallatSG,ngpursuitswithtime-frequencydictionaries[J].,1993,41(12):3397-[7] 孙玉宝,肖 亮,韦志辉,等.基于Gabor感知多成份字典的图像稀疏表示算法研究[J].自动化学报,2008,34(11):1379-1387.[8] YaghoobiM,BlumensathT,narylearningforsparseapproximationswiththemajorizationmethod[J].IEEETransactiononSignalProcessing,2009,57(6):2178-2191.[9] AharonM,EladM,BrucksteinA.K-SVD:analgorithmfordesigningovercompletedictionariesforsparserepresentation[J].IEEETransactiononSignalProcessing,2006,54(11):4311-4322.[10]刘丹华.信号稀疏分解及压缩感知理论应用研究[D].西安:西安电子科技大学,2009.[11]郭海燕,杨 震.基于近似KLT域的语音信号压缩感知[J].电子与信息学报,2009,31(12):2948-2952.[12]RauhutH,SchassK,ssedsensingandredundantdictionaries[J].IEEETransactionsonInfor-mationTheory,2008,54(5):2210-2219.(上接第70页)频段的圆极化。该天线一改以往普遍的双层结构,使用单极子结构实现了双频圆极化,具有结构简单,低剖面等优点,可实现集成化,用作无线通信系统收发天线。参考文献:[1] 钟顺时.微带天线理论与应用[M].西安:西安电子科技大学出版社,1991:127-137.[2] 林昌禄.天线工程手册[M].北京:电子工业出版社,2002:271-303.[3] -frequencydu-al-sensecircularly-polarizedslotantennafedbymicrostripline[J].IEEETransactionsonAntennasandPropagation,2008,56(3):645-649.[4] -bandcircularlypolarizedslottedpatchantennaforGPSandUMTSsystems[J].IEEETransationsonAntennasandPropagation,2010,58(6):448-451.[5] -fedmicrostripantennaforwidebandcircularpolariza-tion[J].IEEEAntennasandWirelessPropagationLetters,2010(9):359-362.图9 增益曲线图 (a)2.5GHz处的宽角轴比 (b)3.3GHz处的宽角轴比图8 宽角轴比曲线图
