3.6. 3.6. A kölcsönös információmennyiség tulajdonságai

3.13. Tétel. (A kölcsönös információmennyiség és az entrópia kapcsolata)

Bizonyítás. A definíció alapján a logaritmus felbontásával rögtön adódik:

3.14. Tétel. (A kölcsönös információmennyiség és a feltételes entrópia kapcsolata)

Bizonyítás. A feltételes entrópiáról tudjuk, hogy

s így az előző tétel felhasználásával adódik állításunk.