О приближенных вычислениях

Числовые значения технических величин являются большей частью приближенными.

Очень часто неопытные лица добиваются при вычислениях получения такой точности результатов, которая совершенно не оправдывается точностью использованных данных. Это приводит к бесполезной затрате труда и времени.

Рассмотрим такой пример. Пусть требуется определить сопротивление R некоторого проводника. При измерении вольтметром с точностью до 0,01В определили напряжение на концах этого проводника U=(9,38±0,01)В. Затем, амперметром с точностью до 0,01А измерен протекающий по этому проводнику ток I=(3,46±0,01)А.

Без критического подхода к вычислениям можно получить такой результат

R= U / I = 9,38В / 3,46А = 2,71098 Ом.

Но так как числа 9,38 и 3,46 приближенные, то последние цифры в этих числах сомнительные. Эти числа при измерении могли быть получены такими: U=9,39 или U=9,37; I=3,45 или I=3,47. При измерении с указанной выше точностью могла быть допущена ошибка на 0,01 как в сторону увеличения напряжения так и в сторону его уменьшения. То же самое в отношении тока.

Таким образом, сопротивление проводника, если его вычислять с точностью до пятого десятичного знака, как это сделано выше, могло оказаться

R= 9,37В / 3,47А = 2,70028 Ом

или

R= 9,39В / 3,45А = 2,72174 Ом

Сравнение всех трех результатов показывает, что они отличаются уже вторыми десятичными знаками и что достоверным (надежным) является лишь первый десятичный знак, а второй десятичный знак является сомнительным (не вполне надежным). Цифры, выражающие остальные десятичные знаки, являются совершенно случайными.

Во избежание бесполезных затрат труда и времени принято вычислять, кроме достоверных (надежных) знаков, еще только один-сомнительный (не вполне надежный).

В рассмотренном примере надо было вести вычисление до второго десятичного знака

R= 9,38В / 3,46А = 2,71 Ом.