核技巧使用核函数直接计算两个向量映射到高维后的内积，从而避免了高维映射这一步。本文用矩阵的概念介绍核函数$K(x,y)$的充分必要条件：对称（半）正定。
对称正定看起来像是矩阵的条件。实际上，对于函数$K(x,y):R^ntimes R^mrightarrow R$，将向量$xin R^n$的所有实数取值按顺序视为矩阵的行号，将向量$yin R^m$的所有实数取值按顺序视为矩阵的列号，行列号对应的元素值为相应的函数值$K(x,y)$，则可以得到形状为$ninftytimes minfty$的无穷宽高的矩阵$K$。
充分性
下面介绍，如果函数$K(x,y)$（或者矩阵$K$）对称正定，则其可以成为核函数（即正定核），也就是存在$phi(x):R^nrightarrow R^N$，使得$K(x,y)=$。
由于矩阵$K$对称正定，则可以进行正交分解
$K=QLambda Q^T$.
其中特征向量矩阵$Q=[q_1,q_2,…,q_{ninfty}]$，每个向量$q_i$都有$ninfty$维，可以被视为函数$q_i(x):R^nrightarrow R$。特征向量之间单位正交，从而有$q_i^Tq_i=1$、$q_i^Tq_j=0$（或$int q_i(x)q_j(x)dx=0$）。特征值矩阵$Lambda=text{diag}(lambda_1,…,lambda_{ninfty})$。则$K$可以被表示为
begin{aligned}K&=sumlimits_{i=1}^{ninfty}lambda_iq_iq_i^T &=sumlimits_{i=1}^{ninfty}sqrt{lambda_i}q_isqrt{lambda_i}q_i^T &= [sqrt{lambda_1}q_1,…,sqrt{lambda_{ ninfty}}q_{ ninfty}]cdot [sqrt{lambda_1}q_1^T,…,sqrt{lambda_{ ninfty}}q_{ ninfty}^T]^Tend{aligned}
给上面的矩阵$K$和向量$q_i$加上索引$x,y$，就变成函数的形式，得到
$K(x,y) = [sqrt{lambda_1}q_1(x),…,sqrt{lambda_{ ninfty}}q_{ ninfty}(x)]cdot [sqrt{lambda_1}q_1(y),…,sqrt{lambda_{ ninfty}}q_{ ninfty}(y)]^T$
令$phi(x)=[sqrt{lambda_1}q_1(x),…,sqrt{lambda_{ ninfty}}q_{ ninfty}(x)]$，即有$K(x,y)=$。
可以看出，正定核一定可以被视为先经过某个维度的映射后再计算内积的过程。那么如何判断某个函数$K(x,y):R^ntimes R^nrightarrow R$是否正定？
以上证明的是在整个实数域内正定的核，称为Mercer核，而常用的正定核只要求在实数域的某个子集正定即可。因此正定核的条件比Mercer核更宽松，正定核包含Mercer核。通常我们处理的数据只属于实数域中的某个区间，并不需要Mercer核这么严格的要求。以上证明假定了矩阵的行列序号为按顺序排列的实数，实际上只要行列号一一对应，不按顺序同样成立，只要在矩阵$K$的左右分别乘上相同的行列交换矩阵即可。也就是常见的证明要求使任意的Gram矩阵正定。
必要性
下面证明，如果函数$K(x,y)$是核函数，则其对称正定。
根据条件，$K(x,y) = $，其中$phi(x):R^nrightarrow R^N$。则可以表示为
$K(x,y) = [phi_1(x),…,phi_N(x)]cdot [phi_1(y),…,phi_N(y)]^T$
转换成矩阵和向量的形式有
$K=sumlimits_{i=1}^Nphi_iphi_i^T$
其中$KinR^{ninftytimes ninfty},phiin R^{ninfty}$。对于任意$xin R^{ninfty}$，有
$xKx^T=sumlimits_{i=1}^Nxphi_iphi_i^Tx^T=sumlimits_{i=1}^Nxphi_i(phi_ix)^Tgeq 0$
所以对称正定。
参考
https://zhuanlan.zhihu.com/p/29527729
服务器托管，北京服务器托管，服务器租用 http://www.fwqtg.net
机房租用，北京机房租用，IDC机房托管， http://www.fwqtg.net
零、前言 本文为《自己动手写 Docker》的学习，对于各位学习 docker 的同学非常友好，非常建议买一本来学习。 书中有摘录书中的一些知识点，不过限于篇幅，没有全部摘录 (主要也是懒)。项目仓库地址为：JaydenChang/simple-docker …
