Измерять напряжение сигнала можно, калибруя масштабную сетку осциллографа (т.е. определяя цену деления сетки в вольтах на сантиметр). В этом случае сама сетка становиться шкалой. Масштаб указывается на переключателе чувствительности осциллографа. При наличии ручки плавной регулировки чувствительности, указанный масштаб получается лишь при одном ее положении, фиксируемом при повороте (это положение обычно обозначается меткой у ручки). Проверку калибровки можно провести с помощью образцового (калибровочного) сигнала, подаваемого в канал вертикального отклонения с встроенного калибровочного генератора. Из-за влияния ряда факторов – погрешностей калибровки, визуального отсчета, нелинейной амплитудной характеристики канала горизонтального отклонения и т.д. – этот метод дает погрешность измерения напряжения обычно не менее 5%.
Погрешность отсчета включает в себя две составляющие:
погрешность совмещения линий осциллограммы с линиями шкалы и погрешность отсчета из-за конечной ширины линии. Погрешность совмещения принимается равной b/5, погрешность отсчета - b/3, где b - ширина луча. Поскольку они независимы, то относительная погрешность отсчета составляет , где Н – размер измеряемого участка изображения на экране. Погрешность уменьшается с увеличением размеров изображения Н. Поэтому, чтобы погрешность измерения была минимальна, изображение измеряемой части исследуемого сигнала должно занимать 80 - 90 % рабочей площади экрана.
Нелинейность амплитудной (и частотной) характеристики приводит к тому, что сигналы различной амплитуды (частоты) усиливаются по разному. Значит, необходимо подбирать для работы осциллографы, для которых измеряемые значения величин будут лежать в диапазонах, рекомендованных для работы осциллографа, более того, ближе к середине диапазона – далеко от крайних значений. Наблюдать сигнал можно и при минимальной (для данного осциллографа) амплитуде, но при измерении напряжения погрешность будет значительно больше 5% (аналогично и для частот). На экране многих осциллографов есть две пунктирные горизонтальные линии, которые ограничивают область, в которой амплитудная характеристика линейна и гарантируется указанная в описании точность измерения напряжений.