Числовые значения величин, с которыми приходится иметь дело при решении физических задач, являются большей частью приближенными.
К таким величинам относятся, в частности, многие константы, приводимые в справочниках. Например, для нормального ускорения свободного падения в справочниках дается значение 9,81 м/с2, для отношения длины окружности к диаметру –3,14 и т. п. При более точном вычислении или измерении эти величины оказываются равными , . Однако и эти значения являются приближенными или в силу недостаточной точности измерения, или в силу того, что получены путем округления еще более точных значений.
Очень часто при вычислениях добиваются получения такой точности результатов, которая совершенно не оправдывается точностью использованных данных. Это приводит к бесполезной затрате труда и времени.
Рассмотрим такой пример. Пусть требуется определить плотность вещества некоторого тела. При взвешивании тела на весах с точностью до 0,01 г определили массу тела: г. Затем с точностью до 0,01 м3 был измерен объем тела: см3.
Без критического подхода к вычислениям можно получить такой результат: . Но так как числа 9,38 и 3,46 приближенные, то последние цифры в этих числах сомнительны. Эти числа при измерении могли быть получены такими: первое – 9,39 или 9,37, второе – 3,45 или 3,47. Так как при взвешивании с указанной выше точностью могла быть допущена погрешность на 0,01 как в сторону увеличения массы, так и в сторону ее уменьшения. То же самое в отношении объема.
Таким образом, плотность тела, если ее вычислять с точностью до пятого десятичного знака, как это сделано выше, могла оказаться
, или .
Сравнение всех трех результатов показывает, что они отличаются уже вторыми десятичными знаками и что достоверным является лишь первый десятичный знак, а второй — сомнительным. Цифры, выражающие остальные десятичные знаки, являются совершенно случайными и способны лишь ввести в заблуждение пользующегося вычисленными результатами. Следовательно, работа по вычислению большинства знаков затрачена впустую.