机器学习基础知识学习-线性代数之范数学习

大家好，欢迎来到IT知识分享网。

看完了山东财经大学宋浩老师讲的行列式、向量、矩阵、方程组等线性代数的知识后，发现在网上找不到宋浩老师讲的范数，最后在B站找了一个讲的相对详细的视频，将范数学习了一下。

想到线性代数的范数学完后，机器学习的基础知识还涉及到高等数学的微分、积分、导数、泰勒展开式、概率论等等，高等数学的任务同样任重道远啊！坚持，加油，共勉！

本篇的学习视频链接 https://www.bilibili.com/video/BV1AD4y1B7Vx/?spm_id_from=333.337.search-card.all.click&vd_source=7621d9b6568d814ad80158fea1c47dcc

现在开始看范数，范数通俗的讲就是向量/矩阵的距离。

向量范数

定义向量范数的目的：给定一个标准来判断两个向量之间的距离。

矩阵范数

矩阵A∈的范数||A||是一个非负实数，它也要满足：

（1）||A||≥0，||A|| = 0 A = 0;

（2）||A|| = ||||A||,∈ R;

（3）||A + B|| ≤ ||A|| + ||B||

根据上面的满足条件，还可以加上更强的性质来得到更有用的矩阵范数，比如满足乘法性质的矩阵范数：||A|| ≤ ||A|| ||B||，这个性质可以进一步加上更强的性质来得到更有用的矩阵范数，比如可要求矩阵范数满足与向量范数的相容性:||Ax|| ≤ ||x||

由||Ax|| ≤ ||x||可推出 = =

由此可推出矩阵范数如果满足==，则称为由向量范数的诱导范数/算子范数

诱导范数/算子范数有什么用呢？可以这样理解：诱导范数/算子范数表示单位圆/球/超球面上的所有向量x经过线性变换后得到的所有向量Ax中最长的那个范数，或者说表示任一向量经过矩阵A所代表的线性变换后得到的所有向量中最长的那个的范数与原向量x的范数的比值

诱导范数/算子范数推导示例

几种向量范数诱导的矩阵范数

（1）矩阵的列和范数

1范数引导出的诱导范数如下：

||A|| =

（2）矩阵的谱范数：所有特征值中最大的那个

2范数引导出的诱导范数如下：

||A|| =

若A为实矩阵，则就是

（3）矩阵的行和函数

无穷范数引导出的诱导范数如下：

||A|| =

各种范数之间的等价性

定理1 (1)设||·||和是定义在上的两个向量范数，则存在两个正数，对所有 x ∈均成立

（2）设||·||和是定义在上的两个矩阵范数，则存在两个正数，对所有A ∈ 均成立

向量与矩阵序列的收敛性

范数的收敛性

用范数的收敛性来确定向量与矩阵序列的收敛性

定理2 （1）设为n维向量序列，||·||为定义在上的向量范数，则

（2）设为 n x n 矩阵序列，||·||为定义在上的向量范数，则

几种向量范数诱导大的矩阵范数

列和函数诱导

关于范数还有很多知识点要学习，等总结后继续在本篇文章内补充更新！

#头条创作挑战赛#