нат (единица)

Естественная единица информации (символ: физ), ^[1] иногда также Naperian цифр , нит или nepit , является единицей информации или энтропии , на основе натуральных логарифмов и степеней е , а не степени 2 и базой 2 логарифмов , которые определяют бит . Эта единица также известна под ее символом - nat. Нат - это связная единица информационной энтропии. Международная система единиц , назначая те же единицы ( джоуль на кельвин ) и ктеплоемкость и термодинамическая энтропия неявно трактует информационную энтропию как величину размерности один , где 1 nat = 1 . Физические системы натуральных единиц, которые нормализуют постоянную Больцмана до 1, эффективно измеряют термодинамическую энтропию в нац.

Когда энтропия Шеннона записывается с использованием натурального логарифма,

${\ displaystyle \ mathrm {H} = - \ sum _ {i} p_ {i} \ ln p_ {i}}$

он неявно дает число, измеряемое в нац.

Один нац равен 1/пер. 2 биты (или шенноны ) ≈ 1,44 бита или, что то же самое,1/пер 10 hartleys ≈ 0,434 Hart. ^[1] Коэффициенты 1,44 и 0,434 возникают из соотношений

${\ displaystyle \ left (2 ^ {x} = e ^ {1} \ Rightarrow x = {\ tfrac {1} {\ ln 2}} \ right)}$, и

${\ displaystyle \ left (10 ^ {x} = e ^ {1} \ Rightarrow x = {\ tfrac {1} {\ ln 10}} \ right)}$.

Один нат - это информативность равномерного распределения на интервале [0, e ].

История [ править ]

Бултон и Уоллес использовали термин нит в сочетании с минимальной длиной сообщения ^[2], который впоследствии был изменен сообществом минимальной длины описания на нат, чтобы избежать путаницы с нитом, используемым в качестве единицы яркости . ^[3]

Алан Тьюринг использовал естественный запрет . ^[4]

Ссылки [ править ]

Дальнейшее чтение [ править ]

• Реза, Фазлолла М. (1994). Введение в теорию информации . Нью-Йорк: Дувр. ISBN 0-486-68210-2.