Для расчета количества информации, которое несет каждое сообщение о том, какой шар был достан, используется формула Шеннона:
I = -log2(P)
Где I - количество информации в битах, P - вероятность события.
Для чёрного шара:
P(черный) = 10/20 = 0.5
I(черный) = -log2(0.5) = 1 бит информации
Для белого шара:
P(белый) = 5/20 = 0.25
I(белый) = -log2(0.25) = 2 бита информации
Для жёлтого шара:
P(жёлтый) = 4/20 = 0.2
I(жёлтый) = -log2(0.2) ≈ 2.32 бита информации
Для красного шара:
P(красный) = 1/20 = 0.05
I(красный) = -log2(0.05) ≈ 4.32 бита информации
Таким образом, сообщение о том, что был достан чёрный шар, несет 1 бит информации, о белом - 2 бита, о жёлтом - около 2.32 бит, о красном - около 4.32 бит.