SVM használata regressziós probléma megoldásához

Leírás

A folyamat az SVM egy regressziós probléma megoldásához való felhasználását szemlélteti. Ebben a kísérletben RBF magfüggvényű SVM-eket tanítunk a Concrete Compressive Strength adatállományon, miközben az RBF magfüggvény gamma paraméterének értékét változtatjuk. Hogy egymással összevethető eredményeket kapjunk, a C paraméter értékét konstans módon 10-nek vesszük. Minden egyes SVM-re meghatározzuk a 10-szeres keresztellenőrzésből nyert átlagos RMS hibát. Eredményül a legjobb átlagos RMS hibát eredményező gamma értékeket adjuk vissza. Ezt az értéket használva a gamma paraméterhez egy RBF magfüggvényű SVM-et tanítunk a teljes adatállományon, melyre alább az optimális RBF magfüggvényű SVM-ként hivatkozunk.

Bemenet

Concrete Compressive Strength [UCI MLR] [Concrete]

Kimenet

8.26. ábra - Az RBF magfüggvényű SVM gamma paraméterének optimális értéke

Az RBF magfüggvényű SVM gamma paraméterének optimális értéke

8.27. ábra - Az RBF magfüggvényű SVM 10-szeres keresztellenőrzésből nyert átlagos RMS hibája a gamma paraméter értékének függvényében, ahol a vízszintes tengely logaritmikus beosztású

Az RBF magfüggvényű SVM 10-szeres keresztellenőrzésből nyert átlagos RMS hibája a gamma paraméter értékének függvényében, ahol a vízszintes tengely logaritmikus beosztású

8.28. ábra - Az optimális RBF magfüggvényű SVM kernelmodellje

Az optimális RBF magfüggvényű SVM kernelmodellje

8.29. ábra - Az optimális RBF magfüggvényű SVM által adott predikció a függő változó megfigyelt értékének függvényében

Az optimális RBF magfüggvényű SVM által adott predikció a függő változó megfigyelt értékének függvényében

Az eredmények értékelése

Az első ábra azt mutatja, hogy a legjobb átlagos RMS hibát akkor érjük el, ha a gamma paraméter értéke 2^-2 = 0,25.

A harmadik ábra azt mutatja, hogy az átlagos RMS hiba csökken a gamma paraméter értékének növelésével, amíg el nem éri a minimumát. A gamma paraméter értékének további növelése azonban a teljesítmény romlását eredményezi, azaz modell túlillesztés lép fel.

Videó

Folyamat

svm_regr_exp1.rmp

Kulcsszavak

SVM
felügyelt tanulás
RMS hiba
regresszió
keresztellenőrzés
paraméter-optimalizálás

Operátorok

Apply Model
Log
Multiply
Normalize
Optimize Parameters (Grid)
Performance (Regression)
Read Excel
Set Parameters
Support Vector Machine (LibSVM)
X-Validation