Шум квантования — ошибки, возникающие при квантовании сигнала. В зависимости от типа аналого-цифрового преобразования могут возникать из-за округления (до определённого разряда) сигнала или усечения (отбрасывания младших разрядов) сигнала.
Шум квантования можно представить как аддитивный дискретный сигнал , учитывающий ошибки квантования. Если — входной сигнал квантователя, а — его передаточная функция, то имеем следующую линейную модель шума квантования:
Детерминированные оценки позволяют определить абсолютные границы шума квантования в случае равномерного квантования:
где — число разрядов квантования (сигнала ), — шаг квантования — при округлении — при усечении.
Вероятностные оценки основаны на представлении ошибок квантования (сигнала ) как случайного шумоподобного процесса. Допущения, вводимые относительно шума квантования:
В таком случае математическое ожидание и дисперсия шума квантования определяется следующим образом (при квантовании используется дополнительный код):