Learning notes_2018_12

Author Avatar
Notouch
发表:2018-11-30 02:34:00
修改:2025-03-04 23:01:00

😀 一、梯度、散度、旋度

轻松理解散度和旋度 - 数学知识的动画解析

🖐 二、拉格朗日乘子法和KKT条件

汽车优化设计 第二章:优化方法的数学基础 王琥 湖南大学 机械与运载工程学院

浅谈最优化问题的KKT条件

【分类战车SVM】第四话:拉格朗日对偶问题(原来这么简单,你也可以轻松学会)

🙎 三、点乘和叉乘

a\cdot b=|a||b|
a\cdot b =a_1b_1+a_2b_2+ ... +a_nb_n

🧚‍ 四、凸集、凸函数

1. 凸集

若某集合中的x和y两个点,若x和y连线之间的所有点(即0<=μ<=1,μx+(1-μ)y)仍属于这个集合,则称此集合为凸集。

直观几何表示:

左边的是凸集,右边的不是凸集,因为右边的集合中任意两点x和y连线之间的所有点有时不属于这个集合(右图中的连线)。

2. 凸函数

对于x是定义在某凸集(非空的,空集也被规定为凸集)上的函数,对于凸集中的任意两点x_1x_2,若

f[\mu x_1+(1-\mu)x_2]\leq \mu f(x_1)+(1-\mu)f(x_2)

则称函数f(x)凸函数

直观几何表示:

左边的是凸集,右边的不是凸集,因为右边的集合中任意两点x和y连线之间的所有点有时不属于这个集合(右图中的连线)。

也就是说两点对应的函数值f(x_1)f(x_2) 的之间的连线(\mu f(x_1)+(1-\mu)f(x_2)) 大于等于相应的(即同一个\mu 值)两点之间连线(\mu f(x_1)+(1-\mu)f(x_2))对应的函数值f[\mu x_1+(1-\mu)x_2]

这其实应叫 下凸。

判定方法可利用**定义法、已知结论法以及函数的二阶导数**

对于实数集上的凸函数,一般的判别方法是求它的二阶导数,如果其二阶导数在区间上非负,就称为凸函数。(向下凸)

如果其二阶导数在区间上恒大于0,就称为严格凸函数。

👨‍ 五、方程的解

若矩阵A的秩为r,即r=R(A) :

1)若r=M=N,则线性方程组Ax=b有唯一解;

2)若r=N< M,则线性方程组Ax=b有唯一解或无解;

3)若r=M< N,则线性方程组Ax=b有无穷解;

4)若r< Mr< N,则线性方程组Ax=b有无穷解或无解;

🍳 六、正交投影和投影矩阵

正交投影p是向量b在平面(由矩阵A的列向量a_1a_2确定)上正交投影

投影矩阵是从向量b变换到其正交投影p过程中的变换矩阵P:

🍻 七、MP和OMP

MP

OMP

以上。(づ●─●)づ

评论