В теории информации в формуле для энтропии обычно используют двоичные логарифмы, тогда (энтропия и информация) измеряется в битах. Это удобно тем, что выбор между двумя равновероятными уровнями Xi (как в двоичном) сигнале характеризуется неопределенностью 1 бит. В популярной литературе иногда пользуются десятичными логарифмами и единицей энтропии является дит. В физике удобнее пользоваться натуральными логарифмами и единицей энтропии является нат (поскольку в дальнейшем наш подход существенно физический, мы также используем натуральные логарифмы). Выбор основания – лишь вопрос масштаба, в любом случае энтропия безразмерна. Возможная величина энтропии заключена в пределах:

0<= H(X)<= logN.

Это интересно:

Водные млекопитающие.
Звуки как сигналы. Водные млекопитающие, как и наземные, имеют уши, состоящие из наружного отверстия, среднего уха с тремя слуховыми косточками и внутреннего уха, соединенного слуховым нервом с головным мозгом. слух у морских млекопитающи ...

Эндонуклеазы
1. Деградацию осуществляет ДНКаза I. Процесс активируется Са2+ и Мg2+ [1979] и подавляется Zn2+ [1984]. Однако имеются факты, которые свидетельствуют против участия ДНКазы I в процессе фрагментации ДНК. Так известно, что этот фермент отс ...

Отбор и подготовка почвенного образца
Образцы почв для микробиологических исследований отбирают в стерильные пергаментные пакеты, полиэтиленовые пакеты или стеклянную посуду. При отсутствии возможности анализировать образцы непосредственно после сбора, их в течение нескольки ...