В теории информации в формуле для энтропии обычно используют двоичные логарифмы, тогда (энтропия и информация) измеряется в битах. Это удобно тем, что выбор между двумя равновероятными уровнями Xi (как в двоичном) сигнале характеризуется неопределенностью 1 бит. В популярной литературе иногда пользуются десятичными логарифмами и единицей энтропии является дит. В физике удобнее пользоваться натуральными логарифмами и единицей энтропии является нат (поскольку в дальнейшем наш подход существенно физический, мы также используем натуральные логарифмы). Выбор основания – лишь вопрос масштаба, в любом случае энтропия безразмерна. Возможная величина энтропии заключена в пределах:

0<= H(X)<= logN.

Это интересно:

Программируемая клеточная гибель
В 1972 г. Керр с соавт. опубликовали статью, в которой авторы представили морфологические доказательства существования отличающегося от некроза особого вида гибели клеток, которую они назвали «апоптоз». Авторы сообщили, что структурные из ...

Устройство микроскопа. Микроскопия в светлом поле. Устройство микроскопа
Микроскопия в светлом поле осуществляется в проходящем свете. При выполнении заданий настоящего практикума каждый студент работает с микроскопом (рис. 1). Рис. 1. Микроскоп В микроскопе различают механическую, оптическую и осветительн ...

Строение вируса и его генома
Вирионы этого семейства (рис. 2) многообразны по форме, встречаются сигмообразные, U-образные формы, однако основной является палочковидная форма с диаметром 80 нм и длиной от 790 нм (вирус Марбург) до 970 нм (вирусы Эбола и Рестон). При ...