核技巧

本文的主題是核技巧。

導言

核技巧是一種常用在支持向量機中的數學變換方法。

核技巧

給定兩個向量x_i和x_j, 我們的目標是計算它們的內積:

I = <x_i, x_j>

現在假設我們通過某種非線性變換：

            Φ : x → ϕ(x)

那麼映射後的內積就變成： I′ = < ϕ(x_i), ϕ(x_j) >

傳統方法是先分別計算映射後的結果, 再計算內積。 而核技巧的想法是在原始空間找到一個函數 K 使得 K函數的結果是映射後的內積。

如果這個函數存在，那麼我們只需要在低維空間裏計算函數, 這種簡化計算的方法被稱為核技巧（The Kernel Trick），而函數K 就是核函數（Kernel Function）。