В теории информации в формуле для энтропии обычно используют двоичные логарифмы, тогда (энтропия и информация) измеряется в битах. Это удобно тем, что выбор между двумя равновероятными уровнями Xi (как в двоичном) сигнале характеризуется неопределенностью 1 бит. В популярной литературе иногда пользуются десятичными логарифмами и единицей энтропии является дит. В физике удобнее пользоваться натуральными логарифмами и единицей энтропии является нат (поскольку в дальнейшем наш подход существенно физический, мы также используем натуральные логарифмы). Выбор основания – лишь вопрос масштаба, в любом случае энтропия безразмерна. Возможная величина энтропии заключена в пределах:

0<= H(X)<= logN.

Это интересно:

Актуальность и область применения универсальных законов бедствий и катастроф
В последние годы вопрос о развитии научных институтов прогнозирования и мониторинга решается на государственном уровне. В высокоразвитых странах, таких как США, правительство выделяет огромные средства на исследования в этой области. Прич ...

Эндокринная система
Эндокринной системы в том виде, как ее понимают в применении к высшим организмам, у беспозвоночных нет. Однако у членистоногих в особых железах синтезируются гормоны, которые влияют на линьку (у ракообразных), на созревание яиц и протекан ...

Введение в предмет и задачи физиологии растений. Ознакомление со структурой курса.
Физиология растений - наука, являющаяся фундаментом для всех остальных прикладных наук в растениеводстве, так как именно знания о сути происходящих в растении процессов позволяют агроному управлять развитием культур, получать максимальные ...