3.2. 3.2. Az I-divergencia tulajdonságai

1. egyenlőség akkor és csak akkor, ha

Bizonyítás.

2. Ha és akkor

3. nem szimmetrikus.

Bizonyítás. Tekintsük pédául azt az esetet, amikor

4. folytonos függvény.

5. konvex függvénye a eloszlásnak a rögzítése esetén.

6. konvex függvénye a eloszlásnak a rögzítése esetén.

7. Legyenek és illetve és függetlenek, ekkor

8. Ha és akkor

azaz a felosztás (particionálás) finomítása nem csökkenti a diszkrimináló információt. Egyenlőség akkor és csak akkor, ha bármely és esetén

Bizonyítás. Az ún. log-szumma egyenlőtlenség alapján bizonyítunk. Legyen és mindegyike nemnegatív, továbbá

ekkor

Egyenlőség akkor és csak akkor, ha bármely esetén

Ha akkor az állítás nyilvánvaló. Ha akkor legyen

3.2. Megjegyzés. Legyen Ekkor

Ha rögzített, akkor minimális, ha maximális, ezért ezt maximum likelihood feladatnak nevezzük. Szokásos elnevezés kifejezésre a likelihood illetve a kifejezésre az inakkurancia.

Ha rögzített, akkor minimalizálása a minimum diszkrimináló információ feladat.