Mackey-Glass orthogonalization/orthonormalization

Tieto experimenty sa pozerajú na vplyv ortogonalizácie/ortonormalizácie na chyby pri predikciach časových radov Mackey-Glass a NARMA  pre časy t+1. Orto-gon/norm-alizácie je urobená pomocou gradient descent metódy Rada Bosáka. Plus zobrazenie spektrálneho polomeru a memory capacity pre dané reservoire.

Nastavenia parametrov ESN:

Počet orto iterácií = 40
Počet runov = 10
Veľkosť reservoiru = 100
Leaking rate = 1
Počiatočný spektrálny polomer = 0.9
Regularizačný parameter pri ridge regresii = ráta sa priamo pre každý reservoir samostatne podľa Echo_State_Gaussian_Process

 

Zelená = NARMA
Modrá = Mackey-Glass
Ortogonalizácia


Ortonormalizácia

To isté ale pre:

Leaking rate = 1
Regularizačný parameter pri ridge regresii = 1e-8

Zelená = NARMA
Modrá = Mackey-Glass
Ortogonalizácia


Ortonormalizácia

Teraz pre:

Leaking rate = 1
Regularizačný parameter pri ridge regresii = 0

Zelená = NARMA
Modrá = Mackey-Glass
Ortogonalizácia


Ortonormalizácia

 

Teraz pre:

Leaking rate = 0.3
Regularizačný parameter pri ridge regresii = 1e-8

Zelená = NARMA
Modrá = Mackey-Glass
Ortogonalizácia

 
Ortonormalizácia

Teraz pre:

Leaking rate = 0.3
Regularizačný parameter pri ridge regresii = 0

Zelená = NARMA
Modrá = Mackey-Glass
Ortogonalizácia

    
Ortonormalizácia

Použité dáta:
narma
MackeyGlass_t17

 

Zdrojáky:

errorSROGMC.py
errorSRONMC.py