Az előzőekből nyilvánvaló, hogy kernel függvényként csak olyan függvény használható, amely belső szorzat segítségével is származtatható. A származtatás módjából következik, hogy a kernel függvények bizonyos tulajdonságokkal kell rendelkezzenek.

Egy kernel függvénynek mindig két argumentuma van és ezekre nézve a függvény szimmetrikus kell legyen:

$K\text{(}{x}_i\text{,}{x}_j\text{)}=\phi {\text{(}{x}_i\text{)}}^T\phi \text{(}{x}_j\text{)}=\phi {\text{(}{x}_j\text{)}}^T\phi \text{(}{x}_i\text{)}=K\text{(}{x}_j\text{,}{x}_i\text{)}$ . (6.17)

A kernel függvények – minthogy az adatok közötti hasonlóságot mérik – általában kielégítik a következő követelményeket is:

$\begin{array}{l}K\text{(}{x}_i\text{,}{x}_j\text{)}\ge \text{0}\\ K\text{(}{x}_i\text{,}{x}_j\text{)}=K\text{(}\Vert x_i-x_j\Vert \text{)}\\ K\text{(}x\text{,}x\text{)}=\text{max }K\text{(}{x}_i\text{,}{x}_j\text{)}i\text{,}j=\text{1}\mathrm{,...,}P.\\ \underset{\text{t}\to \infty }{\text{lim}}K\text{(}t\text{)}=\text{0},\text{ha }t=\Vert x_i-x_j\Vert \end{array}$ (6.18)

A fentiek közül az első a nemnegativitást, a második a radiálisan szimmetrikus tulajdonságot jelenti. A harmadik feltételnek eleget tevő függvény maximumértéket vesz fel, ha mindkét argumentuma azonos, míg az utolsó azt fogalmazza meg, hogy a függvény a két argumentum távolságának monoton csökkenő függvénye.

A kernel függvényekkel támasztott követelmények precízebben is megfogalmazhatók: $K\text{(}{x}_i\text{,}{x}_j\text{) }$ lehet bármely olyan szimmetrikus függvény, amely kielégíti a Mercer tétel feltételeit [Vap98]:

${\displaystyle \int {\displaystyle \int K\text{(}x\text{,}z\text{)}}}f\text{(}x\text{)}f\text{(}z\text{)}dxdz\ge 0\forall f\ne 0\text{ függvényre}\text{,}\text{ahol }{\displaystyle \int f^{\text{2}}\text{(}x\text{)}}dx<\infty$ , (6.19)

ugyanis a Mercer tételt kielégítő függvények előállíthatók valamilyen jellemzőtérbeli ${\phi }_j\text{(}x\text{)}$ függvények skalár szorzataként:

$K\text{(}x\text{,}z\text{)}={\displaystyle \sum _{j=\text{1}}^{\infty }{\lambda }_j{\phi }_j\text{(}x\text{)}{\phi }_j}\text{(}z\text{)}$ (6.20)

ahol ${\lambda }_j>0$ . Néhány gyakran alkalmazott kernel függvényt az alábbi táblázatban foglalunk össze.

A táblázat azt is jelzi, hogy egyes kernel függvények alkalmazásával olyan kernel térbeli hálóstruktúrát kapunk, amely bizonyos klasszikus neuronháló struktúrákhoz hasonló. Így pl. a Gauss kernel függvények az RBF hálóval rokon struktúrát, a tangens hiperbolikusz kernel függvény pedig olyan MLP hálózattal rokon struktúrát eredményez, melynek a kimeneti rétege lineáris.

A fenti, gyakran alkalmazott függvények mellett számos további függvényt használnak kernel függvényként. Megválasztásuk az egyes kernel gépeknél alapvetően fontos és sokszor igen nehéz kérdés. A választás nehézsége akkor jelentkezik, ha adott feladathoz „optimális” kernelt szeretnénk választani. Általában a gyakorlati feladatok megoldásánál nem is törekszünk „optimális” kernel megválasztására, hanem az előbb felsoroltak, vagy egyéb, szintén bevált függvények (pl. B-spline)közül választunk.

A kernel függvények megválasztásának illetve konstrukciójának részleteivel itt nem foglalkozunk, csak az igen széleskörű irodalomra utalunk ld. pl. [Sch02], stb. Annyit azonban megjegyzünk, hogy megfelelő kernelek konstrukciójánál fontos szerepet játszhat, hogy különböző műveletekkel érvényes kernelekből további kernelek képezhetők. Ha pl. mind K1, mind K2 érvényes kernel, továbbá, ha a tetszőleges pozitív konstans, akkor a következő műveletekkel további érvényes kernelek konstruálhatók:

$\begin{array}{l}K\text{(}x\text{,}z\text{)}=K_1\text{(}x\text{,}z\text{)}+K_2\text{(}x\text{,}z\text{)}\\ K\text{(}x\text{,}z\text{)}=a{K}_1\text{(}x\text{,}z\text{)}\\ K\text{(}x\text{,}z\text{)}=K_1\text{(}x\text{,}z\text{)}{K}_2\text{(}x\text{,}z\text{)}\end{array}$ (6.21)

Fentiekből az is következik, hogy kernelek lineáris kombinációja szintén kernel, ha a lineáris kombináció együtthatói nemnegatív számok.

A kernel függvények előre történő megválasztása mellett az utóbbi időben számos olyan eredmény született, mely adatfüggő vagy adaptív kernelekkel oldja meg a feladatokat. Erre vonatkozó eredményeket mutat be többek között pl. [Cri99], [Ama99], [Vin00], [Xio05] és [Mer06].

A későbbiekben látni fogjuk, hogy a kernel gépek konstrukciójánál fontos szerepet tölt be a kernel függvény (x_i, x_j) i, j=1, …, P tanító minta-páron értelmezett értékeiből képezett K_ij=K(x_i,x_j) kernel mátrix, amely tartalmazza a P tanítópont összes lehetséges mintapárjánál a kernel függvény értékét.

$K=\left[\begin{array}{ccccc}K\text{(}{x}_1,x_1\text{)}& \cdots & K\text{(}{x}_i,x_1\text{)}& \cdots & K\text{(}{x}_P,x_1\text{)}\\ ⋮& \ddots & ⋮& \ddots & ⋮\\ K\text{(}{x}_1,x_i\text{)}& \cdots & K\text{(}{x}_i,x_i\text{)}& \cdots & K\text{(}{x}_P,x_i\text{)}\\ ⋮& \ddots & ⋮& \ddots & ⋮\\ K\text{(}{x}_1,x_P\text{)}& \cdots & K\text{(}{x}_i,x_P\text{)}& \cdots & K\text{(}{x}_P,x_P\text{)}\end{array}\right]$ (6.22)

A kernel mátrix fontos jellemzője, hogy egy $P\times P$ -es szimmetrikus mátrix. Az ilyen mátrixot szokás Gram mátrixnak is nevezni.