В теории информации в формуле для энтропии обычно используют двоичные логарифмы, тогда (энтропия и информация) измеряется в битах. Это удобно тем, что выбор между двумя равновероятными уровнями Xi (как в двоичном) сигнале характеризуется неопределенностью 1 бит. В популярной литературе иногда пользуются десятичными логарифмами и единицей энтропии является дит. В физике удобнее пользоваться натуральными логарифмами и единицей энтропии является нат (поскольку в дальнейшем наш подход существенно физический, мы также используем натуральные логарифмы). Выбор основания – лишь вопрос масштаба, в любом случае энтропия безразмерна. Возможная величина энтропии заключена в пределах:

0<= H(X)<= logN.

Это интересно:

Коллекция листьев поврежденных насекомыми
Задание №3 - собрать коллекцию листьев поврежденных насекомыми: галлы, погрызы, повреждения листовертками. Листовертка - мелкая молевидная бабочка, размах крыльев не больше 2,5 см, с довольно толстым телом, покрытым густыми волосками, с ...

Температура и жизнь. Температура влияет на все жизненно важные процессы
Формы жизни на земле - результат химических процессов в животных и растительных клетках. В процессе эволюции в организмах на разнообразных уровнях развития сформировались иерархические структуры, которые объединили в определенных системах ...

Систематическое положение вида
Надцарство: Eucaryota (Ядерные организмы, или Эукариоты) Царство: Animalia, Zoobiota (Животные) Подцарство: Eumetazoa (Настоящие многоклеточные животные) Раздел: Bilateria (Двусторонне-симметричные) Подраздел: Deuterostomia (Вторичноротые ...