В теории информации и коммуникации , то Слепяна-Вольф кодирование , также известный как Слепяно-Вольф связаны , представляет собой результат распределенного источника кодирования обнаружено Дэвид Слепяна и Джек Вольф в 1973 г. Это метод теоретически кодирований двух сжатые без потерь коррелированных источников . [1]
Настройка проблемы
Распределенное кодирование - это кодирование двух, в данном случае, или более зависимых источников с отдельными кодировщиками и совместным декодером . Для двух статистически зависимых iid случайных последовательностей конечного алфавита а также , теорема Слепяна – Вольфа дает теоретическую оценку скорости кодирования без потерь для распределенного кодирования двух источников.
Теорема
Граница для скоростей кодирования без потерь, как показано ниже: [1]
Если и кодер, и декодер двух источников независимы, самая низкая скорость, которую он может достичь для сжатия без потерь, будет а также для а также соответственно, где а также энтропии а также . Однако при совместном декодировании, если для длинных последовательностей принимается исчезающая вероятность ошибки, теорема Слепяна – Вольфа показывает, что может быть достигнута гораздо лучшая степень сжатия. Пока общая ставка а также больше их совместной энтропии и ни один из источников не кодируется со скоростью, меньшей, чем его энтропия , распределенное кодирование может обеспечить сколь угодно малую вероятность ошибки для длинных последовательностей. [1]
Особым случаем распределенного кодирования является сжатие с дополнительной информацией декодера, где источник доступен на стороне декодера, но недоступен на стороне кодера. Это можно рассматривать как условие, при котором уже использовался для кодирования , а мы намерены использовать кодировать . Другими словами, два изолированных источника могут сжимать данные так же эффективно, как если бы они обменивались данными друг с другом. Вся система работает асимметрично (степень сжатия для двух источников асимметрична). [1]
Это ограничение было распространено на случай более чем двух коррелированных источников Томасом М. Ковером в 1975 г. [2], а аналогичные результаты были получены в 1976 г. Аароном Д. Винером и Якобом Зивом в отношении кодирования с потерями совместных гауссовских источников. [3]
Смотрите также
Рекомендации
- ^ a b c d Slepian & Wolf 1973 , стр. 471–480.
- ↑ Обложка 1975 , стр. 226–228.
- ^ Wyner & Зив 1976 , стр. 1-10.
Источники
- Обложка, Томас М. (март 1975 г.). «Доказательство теоремы сжатия данных Слепяна и Вольфа для эргодических источников» Т. ». IEEE Transactions on Information Theory . 21 (2): 226–228. Doi : 10.1109 / TIT.1975.1055356 . ISSN 0018-9448 .
- Слепян, Дэвид С .; Вольф, Джек К. (июль 1973 г.). «Бесшумное кодирование коррелированных источников информации». IEEE Transactions по теории информации . 19 (4): 471–480. DOI : 10.1109 / TIT.1973.1055037 . ISSN 0018-9448 .
- Винер, Аарон Д .; Зив, Джейкоб (январь 1976 г.). «Функция скорости-искажения для кодирования источника с дополнительной информацией в декодере». IEEE Transactions по теории информации . 22 (1): 1–10. CiteSeerX 10.1.1.137.494 . DOI : 10.1109 / TIT.1976.1055508 . ISSN 0018-9448 .
Внешние ссылки
- Алгоритм Wyner-Ziv Coding of Video для сжатия видео, который работает близко к границе Слепяна – Вольфа (со ссылками на исходный код).