Различают два вида погрешностей - абсолютную и относительную. Абсолютная погрешность некоторого числа равна разности между его истинным значением и приближенным значением, полученным в результате вычисления или измерения. Относительная погрешность — это отношение абсолютной погрешности к приближенному значению числа.
Таким образом, если — приближенное значение числа , то выражения для абсолютной и относительной погрешностей запишутся соответственно в виде
.
К сожалению, истинное значение величины обычно неизвестно. Поэтому приведенные выражения для погрешностей практически не могут быть использованы. Имеется лишь приближенное значение и нужно найти его предельную погрешность, являющуюся верхней оценкой модуля абсолютной погрешности, т.е. .
В дальнейшем значение принимается в качестве абсолютной погрешности приближенного числа . В этом случае истинное значение находится в интервале .
Для приближенного числа, полученного в результате округления, абсолютная погрешность принимается равной половине единицы последнего разряда числа.
Например, значение могло быть получено округлением чисел , и других. При этом , и полагаем . При вычислениях на ЭВМ округления, как правило, не производится, а цифры, выходящие за разрядную сетку машины, отбрасываются. В этом случае максимально возможная погрешность результата выполнения операции в два раза больше по сравнению со случаем округления.
Предельное значение относительной погрешности - отношение предельной абсолютной погрешности к абсолютной величине приближенного числа:
Например, .
Заметим, что погрешность округляется всегда в сторону увеличения. В данном случае .
Значащими цифрами считаются все цифры данного числа, начиная с первой ненулевой цифры. Например, в числе 0.037 две значащие цифры: 3 и 7, а в числе 14.80 все четыре цифры значащие.
При изменении формы записи числа, число значащих цифр не должно меняться, т.е. нужно соблюдать равносильность преобразований.