Неопределенность связана с информацией, которую мы получаем при сообщении об отдельных событиях, так как количество информации отдельного события зависит от вероятности его возникновения. Чем меньше вероятность события, тем больше информации мы получаем, узнав о его наступлении.

О вероятностях событий, входящих в полную систему, можно сказать, что сумма всех вероятностей равна единице, так как полная система событий содержит все возможные исходы.

Неопределенность стремится к нулю, когда вероятность события стремится к единице. В этом случае информация о наступлении события становится предсказуемой и несет меньше новой информации.

Неопределенность совпадает с количеством информации в том случае, когда вероятность события равна 0. В этом случае информация о наступлении события содержит максимальное количество новой информации.