В теории информации в формуле для энтропии обычно используют двоичные логарифмы, тогда (энтропия и информация) измеряется в битах. Это удобно тем, что выбор между двумя равновероятными уровнями Xi (как в двоичном) сигнале характеризуется неопределенностью 1 бит. В популярной литературе иногда пользуются десятичными логарифмами и единицей энтропии является дит. В физике удобнее пользоваться натуральными логарифмами и единицей энтропии является нат (поскольку в дальнейшем наш подход существенно физический, мы также используем натуральные логарифмы). Выбор основания – лишь вопрос масштаба, в любом случае энтропия безразмерна. Возможная величина энтропии заключена в пределах:

0<= H(X)<= logN.

Это интересно:

В чем суть концепции атомизма? Какие структуры материи Вам известны? С какими учеными связана данная концепция? Как развивалась концепция атомизма и как она связана с современными проблемами постро
Атомизм, атомное учение, атомистика, учение о прерывистом, дискретном (зернистом) строении материи. А. утверждает, что материя состоит из отдельных чрезвычайно малых частиц; до конца 19 в. они считались неделимыми. Для современного А. хар ...

Основы концепции ноосферы В.И.Вернадского
В 1923 году Вернадский в своих лекциях по геохимии, прочитанных в Париже, впервые указал на явление дисимметрии нашей планеты на примере "подвижной части земной коры" - астеносферы в районе Тихого океана: " Существование д ...

Приготовление вставок с образцами ДНК простейших
Свободно живущие простейшие могут быть прямо использованы для приготовления вставок с препаратами ДНК. Их можно отделить от культуральной среды центрифугированием. Перед приготовлением вставок внутриклеточных паразитов выделяют из клеток ...