Niektorí autori nezavádzajú pojem j(A)j(A)j(A) pre jednotlivý jav AAA, ale chcú pokusu
- P={A1,…,An}P = \{A_1, …, A_n\}P={A1,…,An}
priamo priradiť entropiu
- H(P)=H(p1,…,pn)H(P) = H(p_1, …, p_n)H(P)=H(p1,…,pn)
kde pi=P(Ai)p_i = P(A_i)pi=P(Ai).
Shannon definoval sústavu axióm, my používame Fadejevovu sústavu z roku 1956.
Fadejevove axiómy
A0
H(p1,…,pn)H(p_1, …, p_n)H(p1,…,pn) je definovaná pre všetky pi≥0p_i \ge 0pi≥0, ∑pi=1\sum p_i = 1∑pi=1, a nadobúda reálne hodnoty.
A1
H(p,1−p)H(p, 1-p)H(p,1−p) je spojitá funkcia premennej p∈⟨0,1⟩p \in \langle 0,1 \ranglep∈⟨0,1⟩.
A2
H(p1,…,pn)H(p_1, …, p_n)H(p1,…,pn) je symetrická funkcia.
A3
Ak pn=g1+g2>0p_n = g_1 + g_2 > 0pn=g1+g2>0, g1≥0g_1 \ge 0g1≥0, g2≥0g_2 \ge 0g2≥0, potom platí princíp vetvenia.
Axiómy A0 – A2 sú prirodzené. Axióma A3 – princíp vetvenia – ohodnocuje prírastok entropie pri prechode na jemnejší rozklad.