Пусть a – точное значение некоторой величины, a* – ее приближенное значение. Абсолютная погрешность приближенного значения равна . Поскольку точное значение a обычно неизвестно, то задача состоит в нахождении оценки абсолютной погрешности , которая удовлетворяет неравенству – оценка не должна быть меньше истинной погрешности.
Относительная погрешность определяется отношением: . Для оценки абсолютной величины относительной погрешности должно выполняться неравенство:
.
Значащими цифрами числа называются все цифры в его записи, начиная с первой ненулевой слева. В нормализованной системе все цифры – значащие.
Значащая цифра называется верной, если абсолютная погрешность числа не превосходит половины единицы разряда, соответствующего этой цифре.