Хартли (символ Харт ), называемый также запрет или DIT (сокращенно д ecimal копать него ), [1] [2] [3] является логарифмическая единица , которая измеряет информацию или энтропии , на основе базы 10 логарифмов и полномочий из 10. Один хартли - это информационное содержание события, если вероятность того, что это событие произойдет, составляет 1 ⁄ 10 . [4] Следовательно, он равен информации, содержащейся в одной десятичной цифре (или dit), при условии, чтоаприорная равновероятность каждого возможного значения. Он назван в честь Ральфа Хартли .
Если вместо этого используются логарифмы с основанием 2 и степени 2, то единицей информации является бит или шеннон , который является информационным содержанием события, если вероятность того, что это событие произойдет, равна 1 ⁄ 2 . Натуральные логарифмы и степени e определяют нат .
Один бан соответствует ln (10) nat = log 2 (10) бит или Sh , или приблизительно 2,303 nat , или 3,322 бита. [а] deciban одна десятая часть запрета (или около 0,332 бит); название образовано от запрета на SI префикс деци- .
Хотя там не ассоциирована единица СИ , информационная энтропия не является частью Международной системы величин , определяемой международного стандарт IEC 80000-13 от Международной электротехнической комиссии .
История
Термин Хартли назван в честь Ральфа Хартли , который в 1928 году предложил измерять информацию, используя логарифмическую основу, равную количеству различимых состояний в ее представлении, которое было бы основанием 10 для десятичной цифры. [5] [6]
Запрет и deciban были изобретены Алан Тьюринг с Ирвингом Джон «Джек» Добра в 1940 году, чтобы измерить количество информации , которая может быть выведенной Взломщики кодов в Блетчли - Парк , используя Banburismus процедуры в отношении определения неизвестной настройки каждого дня Немецко военно-морская шифровальная машина Enigma . Название было навеяно огромными листами открыток, напечатанными в городе Банбери примерно в 30 милях отсюда, которые использовались в процессе. [7]
Гуд утверждал, что последовательное суммирование децибанов для построения меры веса свидетельств в пользу гипотезы, по сути, является байесовским выводом . [7] Дональд А. Гиллис , однако, утверждал, что запрет , по сути, совпадает с мерилом строгости теста Карлом Поппером . [8]
Использование как единица вероятности
Децибан - особенно полезная единица измерения логарифмических шансов , особенно в качестве меры информации в байесовских коэффициентах , отношениях шансов (отношение шансов, поэтому логарифм - это разность логарифмических шансов) или весах доказательств. 10 децибанов соответствует коэффициенту 10: 1; 20 децибанов на коэффициент 100: 1 и т. Д. Согласно Гуду, изменение веса свидетельства в 1 децибан (т. Е. Изменение вероятности с равных примерно до 5: 4) примерно настолько велико, насколько можно разумно ожидать от людей. для количественной оценки степени их веры в гипотезу. [9]
Коэффициенты, соответствующие целым децибанам, часто могут быть хорошо аппроксимированы простыми целочисленными отношениями; они собраны ниже. Значение до двух знаков после запятой, простое приближение (с точностью до 5%), с более точным приближением (с точностью до 1%), если простое значение неточно:
децибаны | точное значение | ок. значение | ок. соотношение | точное соотношение | вероятность |
---|---|---|---|---|---|
0 | 10 0/10 | 1 | 1: 1 | 50% | |
1 | 10 1/10 | 1,26 | 5: 4 | 56% | |
2 | 10 2/10 | 1,58 | 3: 2 | 8: 5 | 61% |
3 | 10 3/10 | 2,00 | 2: 1 | 67% | |
4 | 10 4/10 | 2,51 | 5: 2 | 71,5% | |
5 | 10 5/10 | 3,16 | 3: 1 | 19: 6, 16: 5 | 76% |
6 | 10 6/10 | 3,98 | 4: 1 | 80% | |
7 | 10 7/10 | 5.01 | 5: 1 | 83% | |
8 | 10 8/10 | 6,31 | 6: 1 | 19: 3, 25: 4 | 86% |
9 | 10 9/10 | 7,94 | 8: 1 | 89% | |
10 | 10 10/10 | 10 | 10: 1 | 91% |
Смотрите также
- немного
- децибел
Заметки
- ^ Это значение, примерно 10 ⁄ 3 , но немного меньше, можно понять просто потому, что: 3 десятичных цифры немного меньше информации, чем 10 двоичных цифр, поэтому 1 десятичная цифра немного меньше, чем 10 ⁄ 3 двоичных разряда.
Рекомендации
- ^ Клар, Райнер (1970-02-01). «1.8.1 Begriffe aus der Informationstheorie» [1.8.1 Термины, используемые в теории информации]. Digitale Rechenautomaten - Eine Einführung [ Цифровые компьютеры - Введение ]. Sammlung Göschen (на немецком языке). 1241 / 1241a (1-е изд.). Берлин, Германия: Walter de Gruyter & Co. / GJ Göschen'sche Verlagsbuchhandlung . Проверено 13 апреля 2020 . (205 страниц) (NB. Переиздание первого издания 2019 г. доступно по ссылке ISBN 3-11002793-3 , 978-3-11002793-8 . Также существует переработанное и расширенное 4-е издание .) . п. 35. ISBN 3-11-083160-0. ISBN 978-3-11-083160-3 . Archiv-Nr. 7990709. Архивировано 18 апреля 2020 года
- ^ Клар, Райнер (1989) [1988-10-01]. «1.9.1 Begriffe aus der Informationstheorie» [1.9.1 Термины, используемые в теории информации]. Digitale Rechenautomaten - Eine Einführung in die Struktur von Computerhardware [ Цифровые компьютеры - Введение в структуру компьютерного оборудования ]. Sammlung Göschen (на немецком языке). 2050 г. (4-е переработанное изд.). Берлин, Германия: Walter de Gruyter & Co., стр. 57. ISBN 3-11011700-2. ISBN 978-3-11011700-4 . (320 страниц)
- ^ Луков, Герман (1979). От Dits к Bits: личная история электронного компьютера . Портленд, Орегон, США: Robotics Press. ISBN 0-89661-002-0. LCCN 79-90567 .
- ^ «МЭК 80000-13: 2008» . Международная организация по стандартизации (ISO) . Проверено 21 июля 2013 .
- ^ Хартли, Ральф Винтон Лион (июль 1928 г.). «Передача информации» (PDF) . Технический журнал Bell System . VII (3): 535–563 . Проверено 27 марта 2008 .
- ^ Реза, Фазлолла М. (1994). Введение в теорию информации . Нью-Йорк: Dover Publications . ISBN 0-486-68210-2.
- ^ а б Хорошо, Ирвинг Джон (1979). «Исследования по истории вероятности и статистики. XXXVII Статистическая работа AM Тьюринга во Второй мировой войне». Биометрика . 66 (2): 393–396. DOI : 10.1093 / Biomet / 66.2.393 . Руководство по ремонту 0548210 .
- ^ Гиллис, Дональд А. (1990). "Функция веса свидетельства Тьюринга-Гуда и мера Поппера строгости теста". Британский журнал философии науки . 41 (1): 143–146. DOI : 10.1093 / bjps / 41.1.143 . JSTOR 688010 . Руководство по ремонту 0055678 .
- ^ Хорошо, Ирвинг Джон (1985). «Вес доказательств: краткий обзор» (PDF) . Байесовская статистика . 2 : 253 . Проверено 13 декабря 2012 .