Je stredné množstvo informácie pripadajúce na jeden signál zdroja informácie.
Definuje sa ako stredná hodnota I(xi)I(x_i)I(xi):
H(X)=−∑p(xi)logp(xi)H(X) = – \sum p(x_i)\log p(x_i)H(X)=−∑p(xi)logp(xi)
Definíciu H(X)H(X)H(X) možno rozšíriť aj pre spojité signály, kde sa pracuje s hustotou pravdepodobnosti.