余弦多项式拟合_正交多项式简介及其应用

天空一片蔚蓝， 清风添上了浪漫

心里那份柔情蜜意， 似海无限

———《最爱》李克勤

1 正交多项式的定义

1.1 正交多项式定义

定义：一个多项式序列 ，其阶数为 ，对于每一个 ，这个多项式序列在开区间 上关于权函数 正交，如果：

这里

，且 为常数。

这里的权函数 在区间 是连续且正的以使得下式存在：

则多项式 和多项式 的内积定义为：

区间 称为正交区间，正交区间未必是有限区间。

例： 三角函数的正交性 

对于三角函数序列 ，，他们在区间 的正交性为：

图1展现了 和 在区间 上的正交性，图中蓝线为 的值，对其积分就相当于求图中阴影部分的面积，很明显，阴影部分的面积加上符号后求和为0。

图1 三角函数的正交性

1.2 施密特正交化(Schmidt orthogonalization)

施密特正交化方法是将一组线性无关的向量组正交化的方法，对正交化后的向量组进行标准化处理，可进一步得到一组标准正交基。施密特正交化的处理步骤如下：

例子：将三维空间中的一组线性无关向量 用施密特正交化方法处理得到正交向量组 。

步骤如下：

三维空间中施密特正交化方法的几何描述如图2所示。

图2 施密特正交化几何示意图

2 经典正交多项式

经典的正交多项式有雅克比多项式，切比雪夫多项式，勒让德多项式，拉盖尔多项式，埃尔米特多项式等。

2.1 雅克比多项式

雅克比多项式是定义在 上，关于权函数 正交的多项式，其中

雅克比多项式的表达式为：

其中 为伽马函数(gamma function)。

雅克比多项式的递推公式为：

雅克比多项式的正交性：

2.2 勒让德多项式

勒让德多项式是定义在区间 上关于权函数1正交的多项式。勒让德多项式实际上是雅克比多项式在 时的特殊情况。

勒让德多项式的表达式为：

勒让德多项式的递推公式为：

勒让德多项式的正交性：

前6阶勒让德多项式：

前6阶多项式图像：

图3 前6项勒让德多项式

2.3 切比雪夫多项式

切比雪夫多项式是定义在区间 上关于权函数 正交的多项式。

2.3.1 第一类切比雪夫多项式

第一类切比雪夫多项式的表达式为：

令 ，则 ， 第一类切比雪夫多项式的正交性为：

第一类切比雪夫多项式的递推公式：

第一类切比雪夫多项式的前6项：

第一类切比雪夫多项式的图像：

图4 第一类切比雪夫多项式前6项

2.3.2 第二类切比雪夫多项式

第二类切比雪夫多项式的表达式为：

第二类切比雪夫多项式的正交性为：

第二类切比雪夫多项式的递推公式：

第二类切比雪夫多项式的前6项：

2.4 拉盖尔多项式(Laguerre Polynomial)

拉盖尔多项式是定义在区间 上关于权函数 正交的多项式，

拉盖尔多项式的正交关系：

拉盖尔多项式的递推关系()：

前6项拉盖尔多项式():

前6项拉盖尔多项式的图像：

图5 拉盖尔多项式前6项

2.5 埃尔米特多项式

埃尔米特多项式是定义在区间 上关于权函数 正交的多项式。

埃尔米特多项式分为概率论中的埃尔米特多项式和物理中的埃尔米特多项式，这里只介绍物理学中使用的埃尔米特多项式。

埃尔米特多项式的表达式为：

埃尔米特多项式的正交性：

埃尔米特多项式的递推公式：

前6项埃尔米特多项式为：

前6项埃尔米特多项式图像：

图6 埃尔米特多项式前6项

3 正交多项式的应用

正交多项式的应用甚广，包括但不限于数值分析，逼近理论，积分，微分方程，复变函数，随机矩阵理论，编码理论等。

这里仅以一个小的例子来说明正交多项式在函数拟合中的应用。

实验中使用的测试函数为 ，定义区间为 ，实验比较了多项式展开3项时不同多项式的拟合均方误差(MSE)，归一化均方误差(NMSE)。

图7 不同多项式拟合函数y的结果(M=3)

从拟合结果来看，在展开3项时，埃尔米特多项式的拟合误差较小，其他的多项式拟合误差相当。

测试程序如下：

% 正交多项式测试clearclc% 采样点数N = 1000 ; % 正交多项式阶数M = 3 ;   % 拟合函数区间为(-2,2)x = linspace(-2,2,N)' ; % 生成被拟合的函数，包括指数函数，余弦函数，幂函数成分y =  4*x + 3*x.^2 + cos(x) + exp(x) + sin(2*x);% 生成幂级数组成的基矩阵P1 = power_p(x,M) ;% 生成勒让德多项式组成的基矩阵P2 = legendre_p(N,M) ;% 生成切比雪夫多项式组成的基矩阵P3 = chebyshev_p(N,M) ;% 生成拉盖尔多项式组成的基矩阵P4 = laguerre_p(N,M) ;% 生成诶尔米特多项式组成的基矩阵P5 = hermite_p(N,M) ;%% 用最小二乘拟合y% c1对应幂级数系数c1 = P1\y ;% c2对应勒让德系数c2 = P2\y ;% c3对应切比雪夫系数c3 = P3\y ;% c4对应拉盖尔系数c4 = P4\y ;% c5对应埃尔米特系数c5 = P5\y ;%% 求MSE和NMSEMSE_power = norm(y-P1*c1)/N NMSE_power = norm(y-P1*c1)/norm(y) MSE_legendre = norm(y-P2*c2)/N NMSE_legendre = norm(y-P2*c2)/norm(y) MSE_chebyshev = norm(y-P3*c3)/N NMSE_chebyshev = norm(y-P3*c3)/norm(y) MSE_laguerre = norm(y-P4*c4)/N NMSE_laguerre = norm(y-P4*c4)/norm(y) MSE_hermite = norm(y-P5*c5)/N NMSE_hermite = norm(y-P5*c5)/norm(y) figure(1)plot(x,y,'r-',x,P1*c1,'b-',x,P2*c2,'k-',x,P3*c3,'y-',x,P4*c4,'g-',x,P5*c5,'m-')legend('original','power','legendre','chebyshev','laguerre','hermite')function [P] = power_p(x,M)for m = 1:M    P(:,m) = x.^(m-1) ;endendfunction [P] = legendre_p(N,NN)% 本函数生成N*M的勒让德基矩阵s = linspace(-1,1,N)' ;P = zeros(N,NN) ;P(:,1) = ones(N,1) ;P(:,2) = s ;for n = 3 : NN    P(:,n) = ((2 * n - 3) * s .* P(:,n - 1) - (n - 2) * P(:,n - 2)) / ( n -1 ) ;endendfunction [P] = chebyshev_p(N,M)% 本函数生成N*M的切比雪夫基矩阵x = linspace(-1,1,N)' ;P = zeros(N,M) ;P(:,1) = ones(N,1) ;P(:,2) = x ;for k = 3:M    P(:,k) = 2*x.*P(:,k-1) - P(:,k-2) ;endendfunction [P] = laguerre_p(N,M)% 本函数生成N*M的拉盖尔基矩阵x  = linspace(-2,2,N)' ;P = zeros(N,M) ;P(:,1) = ones(N,1) ;P(:,2) = -x + ones(N,1) ;for m = 3:M    P(:,m) = ((2*(m-2)+1-x).*P(:,m-1)-(m-2)*P(:,m-2))./(m-1) ;endendfunction [P] = hermite_p(N,M) % 本函数生成N*M的埃尔米特基矩阵x = linspace(-2,2,N)' ;P = zeros(N,M) ;P(:,1) = ones(N,1) ;P(:,2) = 2*x ;for m = 2:M    P(:,m+1) = 2*x.*P(:,m) - 2*(m-1)*P(:,m-1) ;endend

更多精彩内容请关注订阅号优化与算法和加入QQ讨论群1032493483获取资料

卡尔曼滤波器

经典凸优化高清电子书资料下载

新基建，新机遇——100页PPT

线性降维：主成分分析原理与仿真

3D点云配准算法简述

有哪些以动物命名的算法？

一份超全面的机器学习数据集！

低秩矩阵填充|奇异值阈值算法

软阈值迭代算法(ISTA)&快速软阈值迭代算法(FISTA)

压缩感知：一种新型亚采样技术

点击留言