核技巧

本文的主题是核技巧。

导言

核技巧是一种常用在支持向量机中的数学变换方法。

核技巧

给定两个向量x_i和x_j, 我们的目标是计算它们的内积:

I = <x_i, x_j>

现在假设我们通过某种非线性变换：

            Φ : x → ϕ(x)

那么映射后的内积就变成： I′ = < ϕ(x_i), ϕ(x_j) >

传统方法是先分别计算映射后的结果, 再计算内积。 而核技巧的想法是在原始空间找到一个函数 K 使得 K函数的结果是映射后的内积。

如果这个函数存在，那么我们只需要在低维空间里计算函数, 这种简化计算的方法被称为核技巧（The Kernel Trick），而函数K 就是核函数（Kernel Function）。