半参数估计方法在测绘数据处理中的应用研究进展

东华理工大学实用测量数据处理方法实用测量数据处理方法结课题目：半参数估计在测绘数据处理中的应用研究进展学号：**********姓名：******专业：测绘工程授课教师：******博士2015.12东华理工大学实用测量数据处理方法摘要半参数回归模型,又称为部分线性回归模型,是由Engleeta1(1986)在研究天气变化与供电需求之间的关系时引入的,是20世纪80年代以来发展起来的一种重要的统计模型。在实际的回归分析中,由于存在不可避免的系统误差,独立变量便不能被直接观测到,而是由带有误差的值所代替。由于系统误差的问题,普通最小二乘便不再有效,所以研究半参数回归模型比一般回归模型更具有挑战性和实际意义。本文首先介绍了半参数回归模型的两种不同类型的回归模型:线性半参数回归模型和非线性半参数回归模型;研究了目前半参数回归模型常见的估计方法(补偿最小二乘估计、核光滑估计、拟似然估计、虚拟观测法)并得到了一些满意的结果。另外本文主要是分析讨论以上各种方法以及存在的问题，并对补偿最小二乘加以研究，对方法优缺点进行分析，最后对半参数方法进行展望。关键词：半参数回归模型，补偿最小二乘估计，正则化矩阵东华理工大学实用测量数据处理方法目录1.绪论.....................................................................................................12.半参数模型介绍.................................................................................62.1线性半参数回归模型.................................................................62.2非线性半参数回归模型.............................................................62.3解法介绍....................................................................................72.3.1自然样条函数法NCS(NaturalCubicSpline).............72.3.2补偿最小二乘估计PLSE(PenalizedLeastSquareEstimation)...............................................................................72.3.3核光滑估计法KSE(KernelSmoothingEstimation)....92.3.4拟似然估计法QLE(Quasi-LikelihoodEstimation)..103.半参数模型的补偿最小二乘法........................................................123.1经典模型的解算方法...............................................................123.2确定正则化矩阵的方法...........................................................163.2.1时间序列法.....................................................................163.2.2距离法............................................................................184.进一步工作与展望............................................................................20参考文献...............................................................................................21东华理工大学实用测量数据处理方法11.绪论现代科学研究和工业技术中,为得到某些未知数,常常要通过一系列测量手段得到相关观测值,但由于测量的局限性,任何观测数据或实测信号总是不可避免地包含除了信息之外的干(误差)部分,而采集数据就是为了获取有用的信息,因此要设法将误差予以排除或减弱其对所需信息的影响,但有些误差可以从中分离出来进行其他方面的研究与应用,例如利用GPS进行气象研究中,定位测量中分离出的电离层延迟误差在此就可以提供大气水汽含量及温度信息,从而进行天气预报,成为非常有用的观测量,因此随着空间技术不断得到应用,对观测误差的处理变的越来越重要。根据观测误差对测量结果的影响性质,可将其分为偶然误差、系统误差和粗差三类在传统的测量数据处理中,通常假定数据中只含有偶然误差,用经典平差进行处理,这主要是因为传统测量中,对于系统误差的处理方面,常规仪器本身有完整的校验办法和观测方程式,可以通过重复实验对干扰因素对测量结果的影响的规律性有较为明确的了解,然后通过附加常数项将其减弱或消除,另外,还可以规范操作流程、差分处理技术、对系统误差建立数学模型、尽量避开或改善引起系统误差的观测环境等手段减弱或消除系统误差的影响剔除了观测值中的系统误差和粗差之后,观测误差中偶然误差占主导地位,此时完全可以用经典最小二乘平差理论进行处理,德国数学家C.F.Gauss于1794年提出的最小二乘法为此理论奠定了基础,随后经过200多年的发展,经典平差理论已经发展成为最完善、最成熟的测量平差处理理论。关于测量中出现的粗差,国内外学者提出了较为深入、系统的处理理论,从粗差的可靠性和可区分性,到粗差的探测和定位技术以及抗差估计(稳健估计)理论;然而随着空间测量技术的应用和测量新技术的不断发展,短时间获得海量的观测数据己经成为事实,这些观测值受外部环境影响较大,影响因素较多,函数关系也较为复杂且对其认识较少,若采用常规的系统误差处理方法对观测数据进行处理,残余的系统误差与偶然误差相比达到了不容忽视的程度,已不能满足空间测量中对误差处理精度越来越高的要求。因此,空间科学技术的发展推动了系统误差处理理论研究的不断深入,目前已有处理系统误差的理论和方法主要有以下几种:最小二乘配置，附加系统参数东华理工大学实用测量数据处理方法2和系统权的方法，部分延续模式，回归模型残差检验法，小波滤波，硕士学位论一章绪论基于自适应拟合的卡尔曼滤波，经验模式分解等,但是由于测量过程中观测值受到多种因素的影响,一般认为模型误差或系统误差的形态很复杂,系统误差在一定程度上存在随机性和非随机性,无法用少数参数进行表示,得到精确的参数模型,而这些方法大多是基于线性或非线性的参数回归模型,经典参数回归模型并不能很好地和测量中的实际问题相吻合,此时可以在每个观测方程中增加一个非参数分量,这样以来方程中既有参数分量又有非参数分量,结合了参数回归模型和非参数回归模型两种模型的优势,描述函数关系明确的参数分量部分可以将结果外延,而描述函数关系不明确的非参数分量部分可以提高拟合结果的准确性,这种既含有参数分量又含有非参数分量的函数模型即为半参数回归模型。一般情况下,半参数平差模型的解算准则采用补偿最小二乘准则,该准则既顾及到了拟合程度又顾及到了光滑程度,因此得到了广泛应用该准则中的关键问题是正则化参数和正则化矩阵的确定,目前确定两者的方法均有多种,但各种方法得到的结果并不统一,且没有很好的评定各种方法好坏的标准;另外,对于非参数部分函数光滑性的描述仍然不够明确为了满足现代测绘技术对测量精度提出的高要求,本文将以解决以上问题为出发点,探索分析影响正则化参数选取的因素及其对数据处理结果产生的影响,正则化矩阵与非参数部分的光滑性之间的关系这些问题的解决将为完善半参数模型数据处理方法提供理论依据,有利于提高数据处理结果的精度,因此具有重要的理论意义和实用价值国内外研究现状众所周知,测量平差中的数学模型具有根本的重要性,测量平差是测绘类专业中一门重要的技术基础课,是用于观测数据处理的一门应用数学，数学领域的理论发展为测量数据处理理论提供了极大的便利,数理统计中的古典参数回归模型为经典平差中的数学模型奠定了基础从应用初期到目前的传统测量中,人们通常对回归函数做出较强的基本假设,因而可以得到高精度的推断结果,使得参数回归模型在测量平差尤其是经典测量平差中得到广泛应用,包括间接平差、条件平差、附有未知数的条件平差、附有限制条件的条件平差四种经典平差模型,然而,实际测量中对函数模型的假设并不都成立,并且观测值的影响因素并不一东华理工大学实用测量数据处理方法3定都能够完全参数化,因此参数回归模型存在一定的缺陷。为了让函数模型与实际问题能更好地吻合,人们进行了对非参数回归模型的研究,该模型并没有对回归函数提供大量额外信息,不假设固定的函数形式,对实际问题具有较大的适应性。Stone于1977年提出了非参数估计的权函数估计法硕士学位论一章绪论后,该方法得到了广泛关注,相继出现了局部多项式估计、补偿最小二乘估计等方法,这些方法的提出使非参数回归模型得以更快速更完善的发展,同时有力地推动了测量数据处理理论的发展。但美中不足的是单纯地用非参数回归模型来解决问题时,不能够充分利用先验信息提供影响因素的显著性,降低了模型对实际问题的解释能力,为了更好地解决上述参数回归模型和非参数回归模型的不足,RobertF.Engle等人于1986年研究天气状况与供电量的关系这一实际问题时,结合了两种模型的优势,提出了既含参数分量又含非参数分量的半参数回归模型。近年来,对半参数回归模型的研究成果已大量涌现,主要表现在:在数理统计领域,很多学者对半参数模型的回归性质做了大量研究,主要有半参数回归模型的大样本性质在参数与非参数是否具有随机性以及两者是否相关等条件下,基于核估计和最小二乘法等不同的方法,研究了参数的偏样条估计是相合估计、参数估计的收敛速度以及参数估计的渐近有效性等问题;Green和silverman等研究了半参数回归模型的惩罚似然估计方法、样条估计、平滑因子的选择、偏样条估计、薄板样条估计等一系列相关问题,为半参数回归模型的基本理论奠定了基础;在国内关于半参数回归模型的研究,高集体、圣洪岩等学者开创了先河。他们主要的研究成果有:基于核估计或近邻估计方法,参数估计的加权最小二乘估计的渐近正态性以及参数和非参数估计的强弱收敛速度;柴根象、圣洪岩、施云驰、钱伟民等在总结前人研究的基础上,着重研究了半参数回归模型的估计方法,根据模型的可加性首次提出了两阶段估计,并研究了参数估计的相合性,渐近正态性以及渐近最小方差,重新讨论了参数和非参数的大样本性质;施沛德、薛留根等从构造相关统计量,利用随机加权法系统地研究了参数分量和非参数分量的M估计的渐进性质,极大地丰富了半参数回归模型的理论研究;朱忠义、韦博成等对半参数非线性模型进行了系统地研究,同时也为半参数非线性模型在测量领域的应用打下了基础结合参数模型估计和非参数模型估计方法,经过大量的理论研究,归纳总结半参数回归模型的估计方法,可分为参数化估计法:东华理工大学实用测量数据处理方法4主要是对函数空间施加一定的限制,这里主要是针对光滑性,用有限和对其逼近,将非参数分量参数化,利用最小二乘法或其他估计方法进行求解,主要包括偏核光滑样条估计、偏残差估计、分段多项式估计等;两阶段估计:首先假设参数已知,用非参数回归方法估计非参数分量,然后将估计量代入用最小二乘法对参数分量进行估计;补偿最小二乘估计:主要是在普通最小二乘的基础上增加补偿项,不仅顾及到了拟合程度还顾及到非参数分量的光滑程度,因此成为了目前应用最广泛的估计方法,主要包括直接解法、迭代法