В программной инженерии и математике , численные ошибки является ошибка в численных расчетах .
Типы
Это может быть совокупный эффект двух видов ошибок в вычислениях.
- первая вызвана конечной точностью вычислений с использованием значений с плавающей запятой или целых чисел.
- Вторая, обычно называемая ошибкой усечения, - это разница между точным математическим решением и приближенным решением, полученным при упрощении математических уравнений, чтобы сделать их более удобными для вычислений. Термин «усечение» происходит от того факта, что либо эти упрощения обычно включают усечение расширения бесконечного ряда, чтобы сделать вычисления возможными и практичными, либо потому, что наименее значимые биты арифметической операции отбрасываются.
Мера
Числовая ошибка с плавающей запятой часто измеряется в ULP ( последняя единица измерения ).
Смотрите также
Рекомендации
- Точность и стабильность численных алгоритмов , Николас Дж. Хайэм, ISBN 0-89871-355-2
- «Ошибка вычислений и сложность в науке и технике», В. Лакшмикантам, С.К. Сен, ISBN 0444518606