Аддитивный белый гауссовский шум ( AWGN ) - это базовая модель шума, используемая в теории информации для имитации эффекта многих случайных процессов, происходящих в природе. Модификаторы обозначают конкретные характеристики:
- Аддитивный, потому что он добавляется к любому шуму, который может быть присущ информационной системе.
- Уайт ссылается на идею, что он имеет равномерную мощность в полосе частот для информационной системы. Это аналогия белого цвета, который имеет однородное излучение на всех частотах видимого спектра .
- Гауссовский, потому что он имеет нормальное распределение во временной области со средним значением во временной области, равным нулю.
Широкополосный шум возникает из многих естественных источников шума, таких как тепловые колебания атомов в проводниках (называемые тепловым шумом или шумом Джонсона – Найквиста ), дробовой шум , излучение черного тела от земли и других теплых объектов, а также от небесных источников. например, Солнце. Центральная предельная теорема о теории вероятности указывает на то, что суммирование многих случайных процессов будут иметь тенденцию к распределению называемый Gaussian или Normal.
АБГШ часто используется в качестве модели канала , в котором только нарушения в связи является линейным добавление широкополосном или белого шума с постоянной спектральной плотностью (выраженной в ватт на герц от пропускной способности ) и гауссовым распределением амплитуды. Модель не учитывает замирание , частотную избирательность, помехи , нелинейность или дисперсию . Однако он создает простые и понятные математические модели, которые полезны для понимания основного поведения системы до того, как будут рассмотрены эти другие явления.
Канал AWGN является хорошей моделью для многих каналов спутниковой связи и связи в дальнем космосе. Это не очень хорошая модель для большинства наземных линий связи из-за многолучевого распространения, блокировки местности, помех и т. Д. Однако для моделирования наземного тракта AWGN обычно используется для моделирования фонового шума исследуемого канала в дополнение к многолучевости, блокировке местности и т. Д. помехи, помехи от земли и собственные помехи, с которыми современные радиосистемы сталкиваются при наземной эксплуатации.
Емкость канала
Канал AWGN представлен серией выходов в дискретном времени индекс события . это сумма входных и шум, , где является независимым, одинаково распределенным и полученным из нормального распределения с нулевым средним и дисперсией (шум). В далее предполагается, что они не коррелируют с .
Пропускная способность канала бесконечна, если только шум отличен от нуля, а достаточно ограничены. Наиболее распространенным ограничением ввода является так называемое ограничение «мощности», требующее для кодового слова передаваемые по каналу, имеем:
где представляет максимальную мощность канала. Следовательно, пропускная способность канала с ограниченной мощностью определяется выражением:
Где это распределение . Расширять, записав его через дифференциальную энтропию :
Но а также независимы, поэтому:
Оценка дифференциальной энтропии гауссиана дает:
Так как а также независимы и их сумма дает :
Из этой оценки мы выводим из свойства дифференциальной энтропии, что
Следовательно, пропускная способность канала определяется максимально достижимой границей взаимной информации :
Где максимизируется, когда:
Таким образом, пропускная способность канала для канала AWGN определяется как:
Пропускная способность канала и упаковка сфер
Предположим, мы отправляем сообщения через канал с индексом от к , количество различных возможных сообщений. Если мы закодируем сообщения для бит, то определяем скорость в виде:
Скорость называется достижимой, если существует последовательность кодов, так что максимальная вероятность ошибки стремится к нулю при приближается к бесконечности. Емкость это наивысшая достижимая скорость.
Рассмотрим кодовое слово длины отправлено по каналу AWGN с уровнем шума . При получении отклонение вектора кодового слова теперь равно, а его среднее значение - это отправленное кодовое слово. С большой вероятностью вектор содержится в сфере радиусавокруг отправленного кодового слова. Если мы декодируем, отображая каждое полученное сообщение на кодовое слово в центре этой сферы, то ошибка возникает только тогда, когда полученный вектор находится за пределами этой сферы, что очень маловероятно.
С каждым вектором кодового слова связана сфера принятых векторов кодовых слов, которые декодируются в него, и каждая такая сфера должна однозначно отображаться на кодовое слово. Поскольку эти сферы не должны пересекаться, мы сталкиваемся с проблемой упаковки сфер . Сколько различных кодовых слов мы можем поместить в наш-битный вектор кодового слова? Полученные векторы имеют максимальную энергию и поэтому должен занимать сферу радиуса . Каждая сфера кодового слова имеет радиус. Объем n- мерной сферы прямо пропорционален, поэтому максимальное количество однозначно декодируемых сфер, которые могут быть упакованы в нашу сферу с мощностью передачи P, равно:
Согласно этому аргументу, коэффициент R не может быть больше, чем .
Достижимость
В этом разделе мы показываем достижимость верхней границы ставки из последнего раздела.
Кодовая книга, известная как кодеру, так и декодеру, создается путем выбора кодовых слов длины n, iid Gaussian с дисперсией и означает ноль. Для большого n эмпирическая дисперсия кодовой книги будет очень близка к дисперсии ее распределения, тем самым избегая вероятностного нарушения ограничения мощности.
Принятые сообщения декодируются в сообщение в кодовой книге, которое является уникальным для всех типов. Если такого сообщения нет или если ограничение мощности нарушено, объявляется ошибка декодирования.
Позволять обозначить кодовое слово для сообщения , пока есть, как и раньше, полученный вектор. Определите следующие три события:
- Мероприятие : мощность полученного сообщения больше, чем .
- Мероприятие : переданные и полученные кодовые слова не являются типичными вместе.
- Мероприятие : в , типичный набор, где, то есть неправильное кодовое слово типично вместе с полученным вектором.
Поэтому возникает ошибка, если , или любой из происходить. По закону больших чисел,стремится к нулю, когда n приближается к бесконечности, и благодаря совместному свойству асимптотической равнораспределенности то же самое относится к. Следовательно, при достаточно большом, оба а также каждый меньше чем . С а также независимы для у нас есть это а также также независимы. Таким образом, совместным АЭП,. Это позволяет рассчитать, вероятность ошибки следующая:
Следовательно, когда n приближается к бесконечности, идет к нулю и . Следовательно, существует код скорости R, произвольно близкий к полученной ранее пропускной способности.
Теорема кодирования обратная
Здесь мы показываем, что ставки выше пропускной способности недостижимы.
Предположим, что ограничение мощности удовлетворено для кодовой книги, и дополнительно предположим, что сообщения следуют равномерному распределению. Позволять быть входными сообщениями и выходные сообщения. Таким образом, информация течет как:
Использование неравенства Фано дает:
где в виде
Позволять быть закодированным сообщением индекса кодового слова i. Потом:
Позволять - средняя мощность кодового слова индекса i:
Где сумма по всем входным сообщениям . а также независимы, поэтому ожидание силы есть, для уровня шума :
И если нормально распределяется, у нас есть это
Следовательно,
Мы можем применить равенство Дженсена к , вогнутая (нисходящая) функция от x , чтобы получить:
Поскольку каждое кодовое слово индивидуально удовлетворяет ограничению мощности, среднее значение также удовлетворяет ограничению мощности. Следовательно,
Мы можем применить это, чтобы упростить неравенство выше и получить:
Следовательно, должно быть, что . Следовательно, R должно быть меньше значения, произвольно близкого к мощности, полученной ранее, поскольку.
Эффекты во временной области
При последовательной передаче данных математическая модель AWGN используется для моделирования ошибки синхронизации, вызванной случайным джиттером (RJ).
На графике справа показан пример временных ошибок, связанных с AWGN. Переменная Δ t представляет собой неопределенность перехода через нуль. По мере увеличения амплитуды AWGN отношение сигнал / шум уменьшается. Это приводит к увеличению неопределенности Δ t . [1]
При воздействии AWGN среднее количество переходов через ноль в положительном или отрицательном направлении в секунду на выходе узкополосного фильтра, когда на входе является синусоидальная волна, составляет
где
- f 0 = центральная частота фильтра,
- B = ширина полосы фильтра,
- SNR = отношение мощности сигнал / шум в линейном выражении.
Эффекты в векторной области
В современных системах связи нельзя игнорировать AWGN с ограниченным диапазоном частот. При моделировании AWGN с ограниченной полосой пропускания в векторной области статистический анализ показывает, что амплитуды действительных и мнимых вкладов являются независимыми переменными, которые следуют модели распределения Гаусса . При объединении величина результирующего фазора является случайной величиной с распределением Рэлея , в то время как фаза равномерно распределена от 0 до 2π.
График справа показывает пример того, как AWGN с ограниченной полосой частот может повлиять на сигнал когерентной несущей. Мгновенный отклик вектора шума нельзя точно предсказать, однако его усредненный по времени отклик можно предсказать статистически. Как показано на графике, мы уверенно прогнозируем, что вектор шума будет находиться примерно 38% времени внутри круга 1σ, примерно 86% времени внутри круга 2σ и примерно 98% времени внутри круга 3σ. [1]