Пусть a – точное значение некоторой величины, a* – ее приближенное значение. Абсолютная погрешность приближенного значения равна
. Поскольку точное значение a обычно неизвестно, то задача состоит в нахождении оценки абсолютной погрешности
, которая удовлетворяет неравенству
– оценка не должна быть меньше истинной погрешности.
Относительная погрешность определяется отношением:
. Для оценки абсолютной величины относительной погрешности
должно выполняться неравенство:
.
Значащими цифрами числа называются все цифры в его записи, начиная с первой ненулевой слева. В нормализованной системе все цифры – значащие.
Значащая цифра называется верной, если абсолютная погрешность числа не превосходит половины единицы разряда, соответствующего этой цифре.