Окончательного результата измерений

При обработке результатов измерений выполняются математические операции над приближенными числами, определяемыми с различной точностью. При этом необходимо руководствоваться следующими правилами работы с приближенными числами.

1) При сложении и вычитании приближённых чисел в результате оставлять столько десятичных знаков, сколько их содержится в числе с наименьшим количеством разрядов.

Пример: 2,25 + 3,345 + 4,3 9,9.

2)При умножении и деленииприближенных чисел в результате оставлять столько значащих цифр (см. примечание 1), сколько их имеет приближённое данное с наименьшим количеством значащих цифр.

Пример: 3,2 ∙ 0,8942 ∙ 2,37 6,8.

3) Результат расчета значений функций некоторого приближенного числа должен содержать столько значащих цифр, сколько их имеется в числе .

Примеры: ; .

4) В промежуточных вычислениях сохранять на одну значащую цифру больше (правило «запасной» цифры).

5) Погрешности измерений при промежуточных вычислениях должны быть выражены тремя значащими цифрами.

Примечание. Значащими цифрами являются все цифры числа, кроме нулей, стоящих в начале числа.

Примеры: 2,050 – 4 значащих цифры;

205 – 3 значащих цифры;

0,020 – 2 значащих цифры.

В результате обработки измерений всегда получается приближенное значение измеряемой величины, точность которого определяется только погрешностью, допущенной в процессе измерения, и никакими расчетами нельзя повысить эту точность. Поэтому окончательный результат обработки измерения с точки зрения количества значащих цифр должен соответствовать точности, полученной в процессе измерения.

Согласно теоретическим оценкам, при небольшом числе измерений ( ) количество значащих цифр в значении абсолютной погрешности должно быть ограничено одной или двумя значащими цифрами.