数学建模多元统计分析

实验报告一、实验名称多元统计分析作业题。二、实验目的（一）了解并掌握主成分分析与因子分析的基本原理和简单解法。（二）学会使用matlab编写程序进行因子分析，求得特征值、特征向量、载荷矩阵等值。（三）学会使用排序、元胞数组、图像表示最后的结果，使结果更加直观。三、实验内容与要求四、实验原理与步骤（一）第一题：1、实验原理：因子分析简介：(1)1.1基本因子分析模型设p维总体x=(x1,x2,....,xp)'的均值为u=(u1,u2,....,u3)'，因子分析的一般模型为x1=u1+a11f1+a12f2+........+a1mfm+ε1x2=u2+a21f1+a22f2+........+a2mfm+ε2.........xp=up+ap1f1+fp2f2+..........+apmfm+εp其中，f1,f2,.....,fm为m个公共因子；εi是变量xi(i=1,2,.....,p)所独有的特殊因子，他们都是不可观测的隐变量。称aij(i=1,2,.....,p;j=1,2,.....,m)为变量xi的公共因子fi上的载荷，它反映了公共因子对变量的重要程度，对解释公共因子具有重要的作用。上式可以写为矩阵形式x=u+Af+ε其中A=(aij)pxm称为因子载荷矩阵；f=(f1,f2,....,fm)'为公共因子向量；ε=(ε1,ε2,.....εp)称为特殊因子向量(2)1.2共性方差与特殊方差xi的方差var(xi)由两部分组成，一个是公共因子对xi方差的贡献，称为共性方差；一个是特殊因子对xi方差的贡献，称为特殊方差。每个原始变量的方差都被分成了共性方差和特殊方差两部分。(3)1.3因子旋转因子分析的主要目的是对公共因子给出符合实际意义的合理解释，解释的依据就是因子载荷阵的个列元素的取值。当因子载荷阵某一列上各元素的绝对值差距较大时，并且绝对值大的元素较少时，则该公共因子就易于解释，反之，公共因子的解释就比较困难。此时可以考虑对因子和因子载荷进行旋转（例如正交旋转），使得旋转后的因子载荷阵的各列元素的绝对值尽可能量两极分化，这样就使得因子的解释变得容易。因子旋转方法有正交旋转和斜交旋转两种，这里只介绍一种普遍使用的正交旋转法：最大方差旋转。这种旋转方法的目的是使因子载荷阵每列上的各元素的绝对值（或平方值）尽可能地向两极分化，即少数元素的绝对值（或平方值）取尽可能大的值，而其他元素尽量接近于0.(4)1.4因子得分在对公共因子做出合理解释后，有时还需要求出各观测所对应的各个公共因子的得分，就比如我们知道某个女孩是一个美女，可能很多人更关心该给她的脸蛋、身材等各打多少分，常用的求因子得分的方法有加权最小二乘法和回归法。注意：因子载荷矩阵和得分矩阵的区别：因子载荷矩阵是各个原始变量的因子表达式的系数，表达提取的公因子对原始变量的影响程度。因子得分矩阵表示各项指标变量与提取的公因子之间的关系，在某一公因子上得分高，表明该指标与该公因子之间关系越密切。简单说，通过因子载荷矩阵可以得到原始指标变量的线性组合，如X1=a11*F1+a12*F2+a13*F3,其中X1为指标变量1，a11、a12、a13分别为与变量X1在同一行的因子载荷，F1、F2、F3分别为提取的公因子；通过因子得分矩阵可以得到公因子的线性组合，如F1=a11*X1+a21*X2+a31*X3，字母代表的意义同上。(5)1.5因子分析中的Heywood（海伍德）现象如果x的各个分量都已经标准化了，则其方差=1。即共性方差与特殊方差的和为1。也就是说共性方差与特殊方差均大于0，并且小于1。但在实际进行参数估计的时候，共性方差的估计可能会等于或超过1，如果等于1，就称之为海伍德现象，如果超过1，称之为超海伍德线性。超海伍德现象意味着某些特殊因子的方差为负，表明肯定存在问题。造成这种现象的可能原因包括：共性方差本身估计的问题；太多的共性因子，出现了过拟合；太少的共性因子，造成拟合不足；数据太少，不能提供稳定的估计；因子模型不适合这些数据。当出现海伍德现象或超海伍德现象时，应对估计结果保持谨慎态度。可以尝试增加数据量，或改变公共因子数目，让公共因子数目在一个允许的范围内变动，观察估计结果是否有改观；还可以尝试用其他多元统计方法进行分析，比如主成分析。2、实验步骤：(1)将原始数据标准化处理;(2)建立相关系数矩阵并计算其特征值和特征向量;将题目所给的相关系数矩阵输入并设为PHO，利用[x,y]=eig(PHO)求得PHO的特征值和特征向量。(3)选择特征值大于等于1的特征值个数为公共因子数,或者根据特征值累计贡献率大于80%来确定公共因子。从y表（特征值表）中我们可以看出大于等于1的特征值个数为4，所以公共因子数也为4。(4)求得正交或斜交因子载荷矩阵;①通过上一步，我们得到了因子载荷矩阵lambda。②因子分析，公共因子数为4，设置特殊方差的下限为0，使用factoran函数进行因子旋转。③设置表头与变量名，计算贡献率与累计贡献率。将lambda、Contribut、CumCont放在一起，转为元胞数组，并显示最后的结果。(5)计算公因子得分和综合得分。计算因子得分方法是：用每个共因子的方差贡献率做权数，对每个因子进行加权，然后加总得到每个项目的总因子得分按总得分的多少进行排序，以反映不同免死方面对结果的影响。根据第3步我们可以得到因子1~4的贡献率分别为：[29.1129][27.3303][10.7644][7.2713]，即为它们的权重。再由不同面试方面所对应的因子数我们可以得到公因子得分和综合得分。（二）第二题：1、实验原理：主成分分析是由皮尔逊在1901年首先对非随机变量引入的，后来由霍特林在1933年推广到随机向量的情形。主成分分析是一种通过降维技术把多个变量化为少数几个主成分(即综合变量)的多元统计方法，这些主成分能够反映原始变量的大部分信息，且新主成分之间相关性低、重叠少。主成分分析在很多领域都有广泛的应用，一般来说，当研究的问题涉及多个变量，并且变量间相关性明显，即包含的信息有所重叠时，可以考虑用主成分分析的方法，这样更容易抓住事物的主要矛盾，使问题简化。具体做法是：①对原始数据进行标准化处理用12,,,mxxx表示主成分分析指标的m个变量，评价对象有n个，ija表示第i个评价对象对应于第j个指标的取值。将每个指标值ija转化为标准化指标ija，即,(1,2,,;1,2,,)ijjijjaainjms式中：11njijian，211()1njijjisan相应地，标准化指标变量为,(1,2,,)jjjjxxjms②计算相关系数矩阵R()ijmmRr1,(,1,2,,)1nkikjkijaarijmn其中：1,iiijjirrr，ijr是第i个指标和第j指标之间的相关系数。③计算相关系数矩阵的特征值与特征向量解特征方程0RI，得到特征值(1,2,,)iim12,0m；再求出相对应的特征值i的特征向量(1,2,,)iuim，其中12(,,,)Tjjjmjuuuu,由特征向量组成的m个新的指标变量为11112121212122221122mmmmmmmmmmyuxuxuxyuxuxuxyuxuxux其中：1y为第1主成分，2y为第1主成分，⋯，my为第m主成分④选择p（p≤m）个主成分，计算综合评价值。（1）计算特征值(1,2,,)jjm的信息贡献率和累积贡献率用jb表示主成分iy的信息贡献率，则有1(1,2,,)jjmkkbjm用pa表示主成分12,,,pyyy的累积贡献率，则有11pkkpmkka若pa接近于1（一般pa的范围为85%—95%）时，则用前p个指标变量12,,,pyyy作为p个主成分，代替原来m个指标变量，再对p个主成分进行综合分析。⑤计算综合得分用jb表示第j个主成分的信息贡献率，则有1pjjjZby根据综合得分值进行评价。2、实验步骤：本题使用的是调用pcacov函数做主成分分析的方法。(1)首先我们定义相关系数矩阵PHO，并输入题目中所给的数据。(2)设置pcacov函数的返回，分别为：主成分表达式的系数矩阵x；相关系数矩阵的特征值向量y；主成分贡献率向量z。(3)接下来就可以调用pcacov函数根据相关系数矩阵作主成分分析。(4)为了使结果更加直观，我们选择用元胞数组形式（result1）显示结果。在横轴方向分别写出“特征值”、“差值”、“贡献率”和“累积贡献率”。其中，diff函数式用于求导数与差分；comsum函数用于计算一个数组各行的累加值。(5)从result1我们可以看出，前两个主成分累积功效率为[97.7680]，因此我们用前两个主成分进行后续分析。(6)我们再次使用元胞数组形式（result2）显示前3个主成分表达式的系数矩阵，即z矩阵的前2列，以使结果更加直观。(7)通过以上我们得到了2个主成分的公式以及主成分综合评价模型。(8)接下来利用公式df=PHO*x(:,[1:num])和tf=df*z(1:num)/100;以及[stf,ind]=sort(tf,'descend')进行综合得分和各个主成分的得分，再把得分按从高到低的次序排列，即可得到公司的综合排序。四、程序及其运行结果（一）第一题：1、程序1（特征值与特征向量的计算）：[x,y]=eig(PHO)运行结果1：x=Columns1through100.0152-0.07770.11960.08190.1754-0.00310.44030.1378-0.14500.6108-0.01490.0797-0.22940.2167-0.1166-0.0039-0.05560.0003-0.0059-0.0478-0.0616-0.0222-0.0813-0.1235-0.2265-0.2841-0.0169-0.0438-0.31040.23160.3235-0.1245-0.06270.00670.3866-0.2352-0.3941-0.28150.09740.11270.26710.3150-0.3168-0.36250.3504-0.23790.16290.3807-0.11280.0054-0.4623-0.1824-0.35470.31070.0196-0.19790.1087-0.01420.51370.1688-0.1806-0.20840.2690-0.0078-0.01310.02380.45130.3024-0.1115-0.31030.12560.17620.62240.2938-0.0938-0.49500.0089-0.1606-0.0167-0.09000.0136-0.01650.00460.19870.0755-0.0537-0.30440.60080.1152-0.37320.2237-0.2027-0.32080.41730.00780.25460.1339-0.2384-0.5057-0.2522-0.2654-0.55520.2292-0.33320.13030.1459-0.37890.0808-0.21330.10880.5406-0.12580.0899-0.1343-0.43570.35950.06030.09290.42080.1465-0.29650.57960.19740.03010.24460.5242-0.1141-0.12080.00620.0671-0.20860.2500-0.1729-0.1643-0.5916-0.1372-0.22390.0768-0.24470.0850-0.1151-0.0288-0.0643-0.49610.0186-0.10370.2905-0.42900.1796-0.4213Columns11through150.1181-0.11050.31060.43100.16