В теории информации в формуле для энтропии обычно используют двоичные логарифмы, тогда (энтропия и информация) измеряется в битах. Это удобно тем, что выбор между двумя равновероятными уровнями Xi (как в двоичном) сигнале характеризуется неопределенностью 1 бит. В популярной литературе иногда пользуются десятичными логарифмами и единицей энтропии является дит. В физике удобнее пользоваться натуральными логарифмами и единицей энтропии является нат (поскольку в дальнейшем наш подход существенно физический, мы также используем натуральные логарифмы). Выбор основания – лишь вопрос масштаба, в любом случае энтропия безразмерна. Возможная величина энтропии заключена в пределах:

0<= H(X)<= logN.

Это интересно:

Общие закономерности эволюции
Макроэволюция представляет собой обобщенную картину эволюционных преобразований. Только на уровне макроэволюции обнаруживаются общие тенденции, направления и закономерности эволюции органического мира. В течение второй половины XIX – пер ...

Определение титра
Готовят последовательные двукратные разведения изучаемого антигена и равные объемы каждого разведения вносят в лунки, расположенные по периферии той лунки, в которой антисыворотка (стандартный объем). При оценке результатов иммунодиффузии ...

Экскурсия «в смешанном лесу»
Материалы и оборудование: рулетка, банка, блокнот, ручка. Ход работы: 1. На площадке 25 м2 сосчитали количество экземпляров древесных видов: сосны 3 экземпляра, березы 47, дубов 2. 2. На площадке 1 м2 посчитали количество живущих здесь ...