引用格式刘芳,武娇,杨淑媛,焦李成。结构化压缩感知研究进展。自动化学报,2013,39(12):1980-1995DOI科创新引智计划(111计划)(B07048),教育部长江学者和创新团队发展计划(IRT1170),国家教育部博士点基金(20110203110006),智能感知与图像理解教育部重点,其中压缩观测、稀疏表示和信号优化重构这三个基本模块是CS理论研究的三个重要方向。信号的稀疏性是CS的必备条件,非相关的观测是CS的关键,非线性优化是CS重构信号的手段。
传统压缩感知框架2信号的低维结构模型一般来说,包含着先验知识的模型对寻找或处理我们感兴趣的信号是很有帮助的,而我们研究的信号往往具有各种不同的潜在的低维结构,也就是说,高维信号的自由度通常远低于信号的维数。近年来,在许多领域出现了对信号的低维结构模型的研究。本节将介绍几个在CS中常用的信号结构模型。
2.1稀疏信号模型稀疏信号模型是信号处理领域普遍使用的最简单的模型,传统CS理论正是以其为基础构建起来的。从数学的定义来说,当信号/eRw在某个基或字典下的变换系数中仅含有个非零项,即||||.=fc(fc《W),称/是fc-稀疏的。稀疏性体现出在很多情况下高维信号实际仅包含了远低于其维数的少量信息。实际场景中的大部分信号并不是精确稀疏的,但能够由fc-稀疏信号很好地逼近,通常称这些信号是可压缩的。对稀疏信号eRw,所有fc-稀疏信号构成的集合记为如上所述,压缩测量中重构信号是一个欠定问题,过去十年许多研究者从理论和求解算法上对此进行了研究。理论表明,在稀疏模型约束下,当观测或当中线性相关的列的最小数目spark()大于时,中由spark性质获得的保证唯一恢复的测量数量2fc要低得多。
2.3子空间联合模型这种结构化模型可以推广至无限维空间。对具有某些结构的W维fc-稀疏信号,可能仅需将信号的支撑限制在中的一个更小的子集上就能够很好地刻画信号的结构。例如当信号的非零系数以某种聚集形式出现时,就可以由子空间联合(Unionsofsubspaces)模型来刻画信号的这种结构。信号的子空间联合模型是对稀疏模型的扩展,能够用于刻画包括维数有限和无限的更多类型的信号。
在子空间联合模型中,如果已经知道《位于L个可能的子空间R,……,中的某个子空间,那么?定位于这L个子空间的并中,即其中,Ui(1SzS幻是Rw中的fc-维子空间,对应于*中fc个非零系数的某个特定的位置集合。与包含所有可能的W维fc-稀疏信号的集合(由个子空间的并构成)相比,L往往远小于C|.当前还没有统一的方法来处理所有的联合模型,研究者们对在一些特殊类型的子空间联合模型下的信号采样和恢复问题做出了相关的理论和应用研究。最简单的联合模型为有限个子空间的联合(Finiteunionofsubspaces,FUS)模型,其中子空间的个数和维数都是有限的。
使用了FUS模型的一种特殊情况一结构稀疏支撑(Structuredsparsesupports)模型。该模型利用支撑的额外信息,如向量的非零元素的位置,使得U仅是中的一部分。一种典型的结小波系数(a)?维信的?值小波树结构(b)二维图像的小波四叉树结构信号/图像的小波树结构构稀疏支撑模型为树结构支撑(Tree-structuredsupports)模型。光滑的小波基为光滑和分段光滑的信号,包括自然图像,提供了稀疏或可压缩表示,并且这些信号和图像的小波系数自然地形成一种树状结构,具有大幅值的系数沿着树的分支而聚集,如所示。因此仅需要使用由与树结构相对应的子空间构成的并集来表示信号。
FUS模型的另一*种特殊情况是子空间的稀疏和(Sparsesumsofsubspaces)模型,在这种模型中构成并集的每个子空间是个低维子空间的直和:其中WZl,…,是给定的子空间集合,dim(W~)=必。因此不同的子空间Ui对应于从L个子空间中取出不同的个子空间构成的和。当dim(Wi,)=1时,该模型退化为标准的稀疏模型。由此,可得到块稀疏(Blocksparsity)模型,即一个向量中的某些块等于零,其他部分不为零。给出一个块稀疏向量的例子。向量分成5个块,其中阴影区域表示向量的10个非零元素,它们占了2个块,必表示第Z个块中包含的元素的个数。当对所有Z,必=1时,块稀疏性退化为标准稀疏性。统计学领域对块稀疏模型的性质进行了大量的研究,此外块稀疏模型也被用于DNA微阵分析、稀疏通信信道均衡和源定位等应用中。
块稀疏向量对FUS模型,将传统CS中的标准的RIP性质扩展为(U,5)-RIP性质,证明了在常数5足够小的情况下,为FUS模型设计的重构算法能够正确恢复稀疏向量,并给出了保证稳定恢复所需的测量数量。在子空间的稀疏和模型下对相关性(Coherence)进行了推广,定义了矩阵的块相关性(Block-coherence)。加入了子空间的内部结构,例如子空间的稀疏性,这相当于在对单个块的优化中加入表示稀疏性的正则项,从而得到多层的结构稀疏模式,该模型已被成功地应用于源识别和分离问题。
上述维数与个数都有限的子空间联合模型主要依赖于对模拟输入的离散化,没有考虑实际的硬件系统。为了能在硬件上真正地实现对具有结构的模拟信号的低速采样和重建,出现了对更为复杂的子空间联合模型的研究。这些子空间的联合模型包括子空间个数有限而子空间维数无限的模型、子空间维数有限而个数无限的模型和子空间维数和个数都无限的模型。
由于是对由联合子空间表示的模拟信号的低速采样,因此解决相同问题所使用的方法与上述有限子空间联合模型中对离散化信号使用的方法有本质的区别。处理模拟信号的欠Nyquist采样问题的两个主要的框架是Xampling和有限更新率(Finite-rateofinnovation,FRI)。Xampling框架主要处理那些能够被表示为有限个无限维子空间的并的模拟信号,例如多带模型。在这种模型中,模拟信号由带限信号的有限和构成,信号分量通常具有一个相对较小的带宽,但分布在一个比较大的频率范围内。另一类能够用子空间的并表示的信号是具有有限更新率的一类信号。依赖于特定的结构,这种模型对应于有限维子空间的无限或有限个并,可以刻画许多具有低自由度的信号。在这种情况下,每个子空间对应于参数值的某种选择,参数的可能取值的集合是无限维的,从而由模型张成的子空间的个数也是无限的。借助于子空间的这种模拟的并,使我们能够以低速率对模拟信号进行采样及实时处理,并且设计出有效的硬件,诸如使用调制器、低速率模数转换器(Analog-to-digital converter,ADC)和低通滤波等标准模拟设计组件实现模拟前端,从而促进模拟CS框架从理论到实际应用的发展。
2.4低秩矩阵模型矩阵的稀疏性主要表现在两个方面:1)矩阵元素的稀疏性,即矩阵具有很少的非零元素;2)矩阵奇异值的稀疏性,即矩阵具有很少的非零奇异值,也就是说矩阵的秩非常小,这时我们称矩阵为低秩矩阵。
对矩阵XeRW1XW2,低秩矩阵的集合可表示为矩阵X的奇异值分解为X=近年来低秩矩阵重建已成为机器学习、信号处理、计算机视觉等领域研究的热点,矩阵的恢复与填充可看作是CS重构由一维信号到二维矩阵的推广。
在低秩矩阵约束下,矩阵填充问题表示为其中Q为具有缺失元素的矩阵X中已知元素的标识集,Pn(X)定义为若(i,j)eQ其他最近,一些同时考虑矩阵元素与矩阵奇异值的稀疏性的低秩矩阵模型被用于矩阵恢复问题:其中A>0为正则参数,|||卜为某种正则策略。模型(11)通常被称为鲁棒主成分分析(Robustprincipal componentanalysis,RPCA)。在RPCA的基础上,提出低秩加稀疏矩阵分解的低秩表示间问题。LRR模型表示为其中,DeRNlXn是一个线性张成数据空间的字典,n为字典中原子的个数。类似于CS的Z.-最小化问题,代替rank(Z),将上述问题转化为凸优化问题进行求解。
3结构化压缩感知传统CS在信号的采集与重建中仅将稀疏性作为唯一的先验信息,而结构化CS在传统CS的三个基本模块中引入了结构先验,即结构化的观测、结构化的字典和结构化的信号重构。结构化CS的理论框架如所示,可以看到,结构化CS以结构稀疏表示为基础,采用与信号匹配的结构化观测,在结构化先验下,对更为广泛的信号类实现更加有效的重构。接下来,我们将结合上一节给出的信号的各种低维结构模型对结构化CS理论的三个基本问题进行详细的介绍。
结构化压缩感知框架3.1结构化观测矩阵为了保证从低维测量y重构信号时能够以高概率保证RIP和不相关性,但当信号维数很高时,随机观测矩阵将导致复杂度过高的问题,不易实现。
在某些特定应用中,观测矩阵的类型通常受到传感器的感知模式和能力的限制,同时为减少测量数量,并实现对模拟信号的采样,我们也希望观测矩阵与信号相匹配。因此与传统CS相比,结构化CS使用与信号结构或传感器感知模式相匹配的结构化观测矩阵。目前,结构化的观测矩阵主要有欠米样不相关基(Subsampledincoherentbases)、结构化欠采样矩阵(Structurallysubsampledmatrices)、欠采样循环矩阵(Subsampledcirculantmatrices)和可分离矩阵(Separablematrices)等。关于结构化观测矩阵的理论及硬件实现可参见的详细综述。
利用欠采样不相关基进行采样,是通过首先任意选择与稀疏基不相关的一个正交基,然后选择信号在这个正交基下的系数的子集来获得CS测量的。对欠采样不相关基的应用主要有两类。在第一类应用中,采集硬件被限制在变换域中直接获得测量,最常见的例子为NMRI、层析成像和光学显微术。在这几种应用中,从硬件获得的测量都对应于图像的二维连续Fourier变换系数,展示了一个NMRI采样及CS重构的例子,第二类应用是设计一种可获得信号在一个向量集上投影的新的采集装置,例如由单像素照像机(如所示)可获得图像在具有二值元素的向量集上的投影。
此外这种类型的结构化的观测矩阵已被用于设计采集周期性的多频模拟信号,设计的采集设备被称为随机采样ADC.核磁共振成像在某些应用中,由采集设备得到的测量不能直接对应于信号在特定变换下的系数,获得的观测是多个信号系数的线性组合,在这种情况下产生的CS观测矩阵被称为结构化欠采样矩阵。结构化欠采样矩阵被用来设计采集周期性的多频模拟信号的压缩信息采集设备(如所示)。利用这种框架以及改进的恢复算法能够对更广泛的频率稀疏信号进行采样。
单像素照像机成像模拟滤波器/(>)伪随机序列从(e)压缩ADC采样模型循环结构被用于CS观测矩阵。最早出现在通信领域中的信号估计和多用户检测中,在那里信号响应和多用户模式这些待估计信号被赋于稀疏先验,并且在测量之前这些信号与采样硬件的脉冲响应进行卷积。由于卷积等价于Fourier变换域的乘积算子,因此利用快速Fourier变换进行乘法运算可加速CS的恢复过程。
对于多维信号,可分离矩阵提供了在计算上非常有效的压缩测量方法,例如从多维数据进行超立方体采样。这些矩阵具有像Kronecker积一样简洁的数学形式,并且矩阵子块之间的相关性反映了显著的特征结构。可分离CS观测矩阵主要用于诸如视频序列和高光谱立方数据等多维信号。利用可分离观测矩阵,单像素照像机被推广为单像素高光谱照像机。
3.2结构化稀疏表示信号的稀疏表示是CS理论应用的前提,选择适当的字典丸使信号在屯下具有较高的稀疏度,可提高信号感知的效率。Candes等和Donoho的研究表明仅使用K2cfclog(W/fc)个独立同分布的Gaussian测量就能够以很高的概率精确重构fc-稀疏信号或高度近似于稀疏信号的可压缩信号。由此可见,当信号在字典屯表示下的稀疏度越高时,精确重构信号所需要的观测数量就越少。因此在CS中力求使用或设计可获得信号高稀疏度表示的字典屯。
构造字典通常有两种方法:1)基于数学工具构造字典的解析方法,构造的字典是固定字典;2)基于学习的方法,通过学习构造与特定信号数据相匹配的字典。传统CS多使用固定字典,对具有复杂结构的信号,这种字典不够灵活,不能获得足够的稀疏性。结构化CS通过固定字典的级联和具有特定结构的字典的学习,丰富字典的内容,实现信号的自适应结构化稀疏表示。
3.2.1固定字典正交字典是传统CS在早期使用的一种固定形式的字典,通常是由它们的算法所描述的,例如由Fourier变换、离散余弦变换、小波变换等得到的标准正交字典,这些变换具有构造简单、实现快速、表示的复杂度低的特点。在信号特征与字典的原子特征一致时,能够得到高效精确的表示。但对于诸如图像等复杂信号,正交字典不能灵活地对其进行表示,获得足够的稀疏度。大量研究表明超完备的冗余字典能够更为灵活地表示信号,获得更高的稀疏度,其中包括Curvelets、Contourlets和Bandelets.在CS领域,Candes等从理论上证明了一定条件下,在高度超完备冗余字典下稀疏的信号能够被精确地重构。
现实世界中的信号多具有复杂结构,可看成是由多种结构类型的分量组成,例如音频信号中的瞬变和不变的部分,自然图像中的边缘、纹理和光滑部分。其中每一种结构类型都完全不同,并且任何一个都不能有效地表示另一个。这种由不同结构混合而成的信号可由正交基级联字典有效表示。当由正交基级联而成的字典的相干系数"=1/时,级联字典被认为是(完全)不相干的,信号在其上的稀疏表示满足精确重构条件。常见的正交基级联字典有由不同的正交小波基构成的正交基级联字典、小波函数和Curvelet函数组成的正交基级联字典等。Gribonval等给出信号在有限维的任意(冗余)字典下具有唯一稀疏表示的条件,指明由非正交字典联合而成的级联字典,如双正交小波基级联字典,在对包含多种结构的信号的稀疏表示中也具有良好的性能。通过级联的方式丰富了字典的内容,使得信号中的每种结构都能在相应的字典下得到稀疏的表示,但级联字典的应用也要求信号的特性与字典特性相一致,否则将难以得到满意的表示。
3.2.2结构化字典学习上述字典是固定的,其原子类型一旦确定就不再变化,在CS中选择字典时或多或少需要知道信号的先验信息,并且当研究的信号发生变化时,使用的字典不一定适合。由此出现获得信号最优稀疏表示的自适应结构化字典学习方法,该方法是从大量的训练样本集中学习字典。字典学习的数学模型如下:其中矩阵FeRWxi是训练样本集,fi是F的第i列,矩阵屯eRWxM是未知的字典,矩阵XeRMxi是一个稀疏矩阵,X的每个列向量对应于F的每个列向量在字典屯下的稀疏表示。
字典学习问题(13)是非凸组合优化问题,求解的经典算法包括MOD(Methodofoptimaldirec-tions)算法和K-SVD(K-sigularvaluedecomposition)算法。MOD算法交替地执行稀疏编码和字典更新。在稀疏编码步,算法固定字典,对每个信号独立地进行稀疏编码;在字典更新步,算法通过求解二次优化问题(13)的解析解更新字典。MOD算法仅需要很少次的迭代就可以收敛,虽然逆矩阵的运算使算法具有较高的复杂度,但总体上来说MOD是一种非常有效的方法。K-SVD算法使用与MOD不同的字典更新规则,对字典中的原子(即字典的列向量)逐一进行更新,通过对当前迭代步的原子和与之对应的稀疏系数的同步更新,K-SVD算法更为有效。与构造字典的解析方法相比,上述字典学习算法能够得到更有效的字典,并且在实际应用中可获得更优的性能。
目前有许多关于结构化字典学习方法的研究,即在学习中加入字典元素间的结构信息以获得信号的结构化稀疏表示。训练一个由酉矩阵级联而成的字典的学习算法是对学习结构化过完备字典的第一次尝试。这种结构能够保证训练的字典是一个紧框架,并可降低字典学习的计算复杂度。
该算法假设要学习一个由L个酉矩阵级联的字典屯=有效地进行稀疏表示;在字典更新步,该算法对L个矩阵迭代地交替更新。由于使用的模型相对严格,该方法在实际中不能很好地表示非常灵活的结构。双稀疏性(Doublesparsity)字典学习方法是一种利用被训练字典的原子在已知字典下的稀疏模型来进行字典学习的方法。在这种结构下,被训练字典的每个原子可由一个预先给定的字典的原子的稀疏组合来表示。该方法一方面可自适应地构造字典,另一方面又能够有效地提高字典学习的效率。ISD(Imagesignaturedictionary)是一种变换不变字典,以子图像块作为原子。该方法以块的形式描述不变性,需要很少的训练样本,字典学习过程可快速收敛,并且在这种结构下有可能训练出具有不同大小的原子的字典提出寻找给定样本集最优块稀疏表示的字典学习方法。该方法将字典的块结构作为未知的先验,通过数据对块结构进行推导从而对字典进行调整,提出的BK-SVD(Block K-SVD)算法对块结构和字典迭代地交换更新。在块结构更新步,根据字典原子所表示的样本集的相似性逐步地对原子进行合并;在字典更新步,采用K-SVD算法的一种推广形式,通过依次更新字典原子得到稀疏字典,当块的规模为1时即为K-SVD算法。BK-SVD算法没有考虑原子间的结构信息。Li等在BK-SVD的基础上加入了块内原子的局部图模型,然后将块稀疏约束和图正则项进行组合得到字典学习模型,最后通过交替更新块稀疏编码和字典对模型进行求解,获得的字典既能保证块稀疏性又能保持原子间的局部几何结构,并且可以有效地降低字典块之间的相关性。此外,Jenatton等提出一种基于树结构稀疏正则化的分层字典学习方法。该方法在字典学习中加入反映字典元素间相关性的树结构层次模型,利用原-对偶方法计算树结构稀疏正则化的近邻算子,并通过加速的梯度方法求解信号的树结构稀疏分解问题。近年来,国内的一些学者也在诸如图像去噪、修复等问题中使用和构造一些新的结构字典学习方法,如基于树型冗余字典的信号稀疏表示、基于图像块局部相似聚类的字典学习方法、基于非局部联合稀疏逼近的字典学习方法以及图像结构自适应多成分稀疏表示等。
3.3结构化信号重构3.3.1基于标准稀疏先验的传统CS重构在稀疏模型的约束下,传统CS重构问题可表示为如下的丨。-范数非凸优化问题:求解上述丨。-范数优化问题的最原始的方法是搜索与线性测量相一致的最稀疏的解向量。对W维fc-稀疏信号,需要穷举的个可行解,使得问题是NP-难的,为此出现了许多可替代Z.-范数优化的可行算法。
一类常用的方法是用丨1范数代替丨。范数,将问题转化为Zi-范数最小化(凸优化),这样可得到如下理论研究表明,在某些条件下,丨1-最小化问题与/-问题是等价的,由〖1-凸优化也可获得最稀疏的解。求解-问题的pursuitalgorithm,BEPA)等。基于多层稀疏先验假设,由稀疏Bayesian学习(SparseBayesianlearning,SBL)方法可获得快速的BayesianCS(BCS)算法。对于传统CS重构算法的详细综述可参见。
基于标准稀疏模型的传统CS的逆问题的可行解空间的维数随信号维数的增大呈指数增长,因此从中选择可行解具有充分的自由性。在实际应用中,这种过高的自由性通常会导致算法不稳定、不能获得精确的估计。为了克服这个问题,结构化CS引入信号的结构模型,将其作为CS逆问题的可行解选择的先验信息来约束可行解空间。与传统CS相比,结构化CS有效地降低了压缩测量的数量,提高重构质量,并且将对有限维信号的压缩感知过程扩展到对无限维信号的处理。以下我们将对有限维信号的基于MMV模型、子空间联合模型和基于先验正则化方法的结构化重构进行介绍。
3.3.2基于MMV模型的结构化CS重构(或SMV)的优化问题(14)进行推广,可以得到如下MMV稀疏恢复的优化问题:利用矩阵范数,中的元素被假定为独立同分布的,这种假设在很多实际场景下是不合适的。例如,在高采样速率下,所获得的信号源的连续采样的幅值具有强相关性。Zhang等和Cho等提出的算法通过建立信号源的自回归(Autoregression,AR)模型在稀疏恢复中学习这种时空结构,尽管获得了优于上述未考虑时空结构的MMV算法的性能,但过低的效率限制了它们的应用。Zhang等提出一种基于信号源时空相关结构的多测量向量的稀疏Bayesian学习(TMSBL)算法,使对多信号的联合稀疏重构从质量和效率上得到了提升。此外,Zhang等丨125对迭代重复加权算法M-FOCUSS进行改进,提出基于信号源时空相关结构的迭代重复加权算法tMFOCUSS.Wu等通过设计基于多尺度CS的图像的多变量压缩采样方法,将小波域图像的CS重构问题转化为MMV问题。图像小波系数的聚集性使得位于同一尺度的邻域内的系数具有显著的统计相关结构,即时空相关结构。他们在Bayesian框架下利用多变量尺度混合模型对小波系数尺度内的相关结构进行建模,将其与CS的重构相结合,提出求解MMV问题的快速多变量追踪算法(Multivariatepursuitalgorithm,MPA)。
对于基于MMV模型的CS重构的较为详细的综述可参见。
3.3.3基于子空间联合模型的结构化CS重构近来树结构模型被用于一些重构算法,取得了优于传统CS重构的性能。其中由Bara-niuk等提出的基于模型的CoSaMP(Model-based MP,TMP)算法和La等的树正交匹配追踪(Tree-basedOMP,TOMP)算法是在传统贪婪算法基础上加入树结构模型扩展得到的。与标准贪婪算法相比,这些算法通过树结构来确定信号支撑,缩小了算法的搜索范围,有效提高了重构信号的稀疏性。练秋生等对上述算法进行了改进,提出基于双树小波通用HMT(HiddenMarkovtree)模型的凸集交替投影算法和基于小波系数合理树结构模型的迭代硬阈值算法。丑6等提出的基于小波HMT模型的树结构小波压缩感知(Tree-structuredwaveletCS,TSW-CS)算法利用小波HMT结构通过Bayesian学习获得图像小波系数的概率估计。Duarte等提出的基于HMT加权方法的迭代重复加权丨1最小化(HMT-basedweights foriterativereweiyhted,HMT+IRWL1)算法借助小波系数的HMT模型构造加权方法,有效地增加重构系数的稀疏度,提高重构精度。赵贻玖等使用4状态小波HMT模型对HMT+IRWL1算法进行了改进。除上述算法之外,还存在一些将Markov链、Markov场或Markov树作为信号的结构化概率先验的置信传播和消息传递算法、基于Bayesian多层模型的多任务CS(Multi-taskCS)和学习问题。在统计学中,当稀疏系数间存在组或块结构相关性时,Yuan等将Lasso算法推广为GroupLasso.Ja-cob等和Jenatton等通过在模型中加入其他类型的结构稀疏性,将GroupLasso推广为具有更复杂的稀疏正则化条件的情况。Eldar等将块稀疏信号的重构看成是一个混合丨2/丨1范数优化问题,通过凸优化的方法对其进行求解,提出的算法可看成是BP算法在块稀疏信号重构中的推广。Eldar等又将MP、OMP算法扩展为块稀疏匹配追踪(BlockMP)和块稀疏正交匹配追踪(BlockOMP)算法。此外,付宁等提出了块稀疏度自适应迭代算法和基于子空间的块稀疏信号CS重构算法。
3.3.4基于先验正则的结构化CS重构除了以上两类使用信号结构模型的重构算法外,还存在一类基于先验正则的结构化CS重构算法。这类方法多用于图像重构,使用的结构先验源自于图像本身,例如,图像的边缘和纹理、图像像素的邻域结构信息以及图像子块的非局部相似性等,并且常常以迭代的方式自适应地对结构先验正则模型的参数进行学习,同步实现图像的恢复。
Wu等将图像的边缘信息加入到MMV稀疏重构过程,提出基于边缘指导的MPA算法,算法对具有强边缘的图像可获得高质量的重构。Wu等利用图像在空域中像素间的自回归模型,提出了基于自回归图像模型的重构算法,该算法对图像边缘、纹理等细节信息的恢复有显著的提高。
在此基础上,他们通过在模型中加入对图像非局部相似性的学习,进一步提高了基于自回归模型的图像重构算法的性能。卩6丫等、Zhang等和陈书贞等提出基于迭代非局部正则化的图像重构算法,算法在图像重构和学习与图像结构相匹配的最优非局部图正则之间交替迭代,能够很好地重构自然图像的边缘和纹理。卩6丫等提出的最优基压缩感知通过对树结构字典学习,得到最优正交基,从而获得图像自适应正则先验模型和自适应的重构。Duarte-Carvajalino等提出同步学习自适应的先验结构和观测矩阵的图像恢复算法。Yu等提出一种自适应稀疏域选择(Adaptivesparsedomainselection)和自适应正则化字典学习算法解决图像恢复问题,算法对图像块进行聚类,利用PCA方法对每一聚类学习子字典,构造的字典能够很好地表示图像的结构。Zhou等提出用于图像恢复的基于非参数多层Bayesian模型字典学习方法,在该模型下不需要知道训练样本的任何先验知识,即可自适应地获得图像块在学习的字典元素的一个低维子集下的稀疏表示,并且在学习中可以很容易地将图像的结构模型,如聚类结构、空间结构等,以随机过程的形式与多层Bayesian模型相结合,提高CS重构的性能。
4总结与展望本文从压缩感知理论的三个基本方面对结构化压缩感知所涉及的基本模型和关键技术进行了详细的阐述,综述了结构化压缩感知理论的最新研究成果。更为复杂的结构模型的引入大大推进了压缩感知理论在实际中的应用能力,新的结构化压缩感知理论框架扩展了其所能处理的信号类型。尽管目前关于结构化压缩感知的研究很多,并已取得了较多的成果,但仍存在许多有待解决的问题。
自适应观测矩阵的学习不同的观测方法对压缩感知重构所需测量的数量和算法的恢复性能有显著的影响。传统压缩感知采用的随机观测和结构化压缩感知使用的由传感器感知模式确定的结构化观测通常都具有固定的形式,不能自适应复杂信号的内部结构,例如在基于分布式和多任务压缩感知的阵列信号和视频图像等的压缩感知中,通常使用固定的随机观测对各个信号源或图像帧独立采样,没有同时考虑到信号源或图像帧内部及之间的相关性。目前,自适应观测的学习和设计仅限于理论上的初步研究,仿真实验验证了其对降低测量率、提高重构质量的有效性。因此,针对不同的应用,设计最优的自适应结构化观测矩阵和简便的采样实现技术是扩大压缩感知应用范围的重要手段,需要进一步的研究。
基于核方法的压缩感知重构众所周知,压缩感知能够从低维观测中恢复高维信号,所付出的代价就是非线性的优化恢复过程。
近年来有些学者致力于寻求解析形式的解,以构建更加实用高效的压缩感知方案。指出:通过选择合适的核映射,在特征空间形成信号的稀疏表示,就能够利用最小二乘法获得解析形式的解,称之为核压缩感知。核压缩感知本质上是一种非线性稀疏表示下的压缩感知,它不仅能避开迭代的非线性优化的过程,而且相比线性稀疏表示,能够以更少的观测数目恢复信号。研究该理论下结构化模型的构造与实现,也是未来结构化压缩感知的一个发展方向。
非凸结构化压缩感知重构传统压缩感知重构和结构化压缩感知重构的本源问题都是丨。范数下非凸优化问题,是NP-难问题。以匹配追踪和正交匹配追踪为代表的贪婪算法和以迭代硬阈值收缩为代表的门限算法可看成是直接求解丨。问题的方法。然而,贪婪算法和门限算法都不能保证收敛到全局最优解。目前已有学者着手利用自然计算方法来求解压缩感知重构的非凸问(赵嵩,马荣华,薛朝改,李恒建。基于树型冗余字典正交匹配追踪的信号稀疏分解。扬州大学学报(自然科学版),2011,14(4):52?55,82)(徐健,常志国。基于聚类的自适应图像稀疏表示算法及其应用。光(胡正平,刘文,许成谦。基于分类学习字典全局稀疏表示模型的图像修复算法研究。数学的认识与实践,2011,(李民,程建,李小文,乐翔。非局部学习字典的图像修复。电子与信(孙玉宝,肖亮,韦志辉,刘青山。图像稀疏表示的结构自适应子空间匹配追踪算法研究。计算机学报,2012,2011,39(1):142?148(杨海蓉,张成,丁大为,韦穗。压缩传感理论与重构算法。电子学报,(王法松,张林让,周宇。压缩感知的多重测量向量模型与算法分析。信号处理,2012,28(6):785?792)(练秋生,王艳。基于双树小波通用隐马尔可夫树模型的图像压缩感(练秋生,肖莹。基于小波树结构和迭代收缩的图像压缩感知算法研(赵贻玖,王厚军,戴志坚。基于隐马尔可夫树模型的小波域压缩采样信号重构方法。电子测量与仪器学报,2010,(付宁,曹离然,彭喜元。基于子空间的块稀疏信号压缩感知重构算(付宁,乔立岩,曹离然。面向压缩感知的块稀疏度自适应迭代算法。电子学报,2011,39(3A):75?79)(陈书贞,李光耀,练秋生。基于非局部相似性和交替迭代优化算法的图像压缩感知。信号处理,2012,XidianUniversity,China,2012(杨丽。基于Ridgelet冗余字典和遗传进化的压缩感知重构,西安电子科技大学,中国,2012)(马红梅。基于Curvelet冗余字典和免疫克隆优化的压缩感知重构,西安电子科技大学,中国,2012)(郜国栋。基于交替学习和免疫优化的压缩感知图像重构,西安电子科技大学,中国,2012)刘芳西安电子科技大学计算机学院教授。1995年获西安电子科技大学计算机学院硕士学位。主要研究方向为信号和图像处理,学习理论与算法,模式识别。
武娇中国计量学院理学院讲师。2012年获西安电子科技大学计算机学院博士学位。主要研究方向为图像处理,机器学习,统计学习理论与算法。本文通信作杨淑媛西安电子科技大学电子工程学院教授。2005年获西安电子科技大学电子工程学院博士学位。主要研究方向为机器学习,多尺度分析,压缩采样。
焦李成西安电子科技大学电子工程学院特聘教授。1990年获西安交通大学博士学位。主要研究方向为信号和图像处理,自然计算,智能信息处理。