Вероятностный подход к измерению информации

 

В  реальной жизни существует  множество ситуаций  с различными вероятностями.  Например,  если у монеты одна сторона тяжелей другой, то при ее бросании вероятность  выпадения «орла» и «решки» будет различной.
В этом случае, зная вероятность  (р) событий,  можно определить количество информации в сообщении о каждом из них из формулы:


Количество информации будет определяться по формуле Шеннона,  предложенной им в 1948 г.  для различных  вероятностных событий:

 


Лекция добавлена 25.02.2014 в 22:49:39