В теории информации в формуле для энтропии обычно используют двоичные логарифмы, тогда (энтропия и информация) измеряется в битах. Это удобно тем, что выбор между двумя равновероятными уровнями Xi (как в двоичном) сигнале характеризуется неопределенностью 1 бит. В популярной литературе иногда пользуются десятичными логарифмами и единицей энтропии является дит. В физике удобнее пользоваться натуральными логарифмами и единицей энтропии является нат (поскольку в дальнейшем наш подход существенно физический, мы также используем натуральные логарифмы). Выбор основания – лишь вопрос масштаба, в любом случае энтропия безразмерна. Возможная величина энтропии заключена в пределах:

0<= H(X)<= logN.

Это интересно:

Результаты и обсуждение
Трансаминазы являются важнейшими ферментами обмена веществ. Аспартатаминотрансфераза (АСТ) и аланинаминотрансфераза (АЛТ) - близкие по действию ферменты, при участии которых в организме человека осуществляется межмолекулярный перенос амин ...

Наземные млекопитающие .
Давно известно, что наземные млекопитающие издают брачные клики и звуки угрозы, оставляют пахучие метки, обнюхивают и нежно ласкают друг друга. В общении наземных млекопитающих довольно много места занимает информация об эмоциональных со ...

Демонстрационное моделирование
Большой интерес представляет для понимания зарождения человеческих форм общения описанное Фабри «демонстрационное манипулирование» у обезьян. У ряда млекопитающих описаны случаи, когда одни животные наблюдают за манипуляционными действия ...