Learning notes_2018_12
😀 一、梯度、散度、旋度
🖐 二、拉格朗日乘子法和KKT条件
汽车优化设计 第二章:优化方法的数学基础 王琥 湖南大学 机械与运载工程学院
【分类战车SVM】第四话:拉格朗日对偶问题(原来这么简单,你也可以轻松学会)
🙎 三、点乘和叉乘
🧚 四、凸集、凸函数
1. 凸集
若某集合中的x和y两个点,若x和y连线之间的所有点(即0<=μ<=1,μx+(1-μ)y)仍属于这个集合,则称此集合为凸集。
直观几何表示:
左边的是凸集,右边的不是凸集,因为右边的集合中任意两点x和y连线之间的所有点有时不属于这个集合(右图中的连线)。
2. 凸函数
对于x是定义在某凸集(非空的,空集也被规定为凸集)上的函数,对于凸集中的任意两点x_1和x_2,若
则称函数f(x)凸函数
。
直观几何表示:
左边的是凸集,右边的不是凸集,因为右边的集合中任意两点x和y连线之间的所有点有时不属于这个集合(右图中的连线)。
也就是说两点对应的函数值f(x_1)和f(x_2) 的之间的连线(\mu f(x_1)+(1-\mu)f(x_2)) 大于等于相应的(即同一个\mu 值)两点之间连线(\mu f(x_1)+(1-\mu)f(x_2))对应的函数值f[\mu x_1+(1-\mu)x_2]
这其实应叫 下凸。
判定方法可利用**定义法、已知结论法以及函数的二阶导数**
对于实数集上的凸函数,一般的判别方法是求它的二阶导数,如果其二阶导数在区间上非负,就称为凸函数。(向下凸)
如果其二阶导数在区间上恒大于0,就称为严格凸函数。
👨 五、方程的解
若矩阵A的秩为r,即r=R(A) :
1)若r=M=N,则线性方程组Ax=b有唯一解;
2)若r=N< M,则线性方程组Ax=b有唯一解或无解;
3)若r=M< N,则线性方程组Ax=b有无穷解;
4)若r< M且r< N,则线性方程组Ax=b有无穷解或无解;
🍳 六、正交投影和投影矩阵
正交投影p是向量b在平面(由矩阵A的列向量a_1和a_2确定)上正交投影
投影矩阵是从向量b变换到其正交投影p过程中的变换矩阵P:
🍻 七、MP和OMP
OMP
以上。(づ●─●)づ