К вычислительным относятся функции предварительной и основной обработки данных. Математический аппарат, применяемый на этапах предварительной и основной обработки, не может быть четко разграничен для абстрактного измерительного прибора, так как одни и те же процедуры обработки могут в одних приборах выполняться на предварительном этапе, а в других—на основном.
В качестве предварительной обработки сигналов может применяться следующие процедуры:
калибровка, линеаризация, нормализация. Эти виды предварительной обработки связаны с коррекцией погрешностей, вносимых первичными измерительными преобразователями и усилительным трактом. Простейший вид коррекции — калибровка по двум точкам (пуля и полной шкалы). Более сложный вид коррекции — линеаризация—учитывает нелинейность приемно-усилительного тракта, в частности нелинейность первичного преобразователя. Массив входных данных при этом преобразуется в соответствии с заданной нелинейной характеристикой. Если характеристика приемно-усилительного тракта не может быть удовлетворительно аппроксимирована простой формульной зависимостью, то применяется более общий вид коррекции—нормализация, когда для всей совокупности дискретных значений, поступающих на вход вычислительной части прибора, задан массив нормализующих коэффициентов; коррекция проводится умножением каждого кода на «свой» нормализующий коэффициент;
масштабирование. Этот вид предварительной обработки служит для учета коэффициентов передачи и напряжений смещения узлов в приемно-усилительном тракте. Масштабирование в общем случае проводится по формуле:
у=ах+b;
цифровая фильтрация. Введение цифровых фильтров в приемно-усилительный тракт может проводиться как чисто программными, так и аппаратными и смешанными методами. Код на выходе нерекурсивного цифрового фильтра формируется по формуле
m—1
y(i)= S x(i-k) ak,
k=0
где ak—коэффициенты цифрового фильтра;
сжатие данных. Для экономии памяти данных применяется сжатие данных без потери информации, основанное на алгоритмах адаптивного квантования. Простейший вид сжатия — кусочно-линейная аппроксимация, более общий вид—аппроксимация участками кривых п-го порядка. Математический аппарат, применяемый при сжатии информации, аналогичен (тому, который применяется при контурном и спектральном анализе (при основной обработке сигнала);
распознавание и устранение артефактов. Сущность процедуры распознавания артефактов — это классификация входного сигнала по двум классам: «подлежит анализу», «не подлежит анализу». Не подлежащий анализу сигнал считается «артефактом»; имеется в виду, что он обязан своим происхождением факторам, которые не являются предметом исследования: случайным нарушениям измерительной, цепи, побочным влияниям на первичные преобразователи, наводкам от внешних цепей и пр. Естественно, для подобной классификации необходимы априорные сведения о сигнале, например ожидаемом частотном и амплитудном диапазонах, ожидаемой последовательности характерных точек и т. п. Соответственно распознавание артефактов производится или с помощью алгоритмов амплитудного и частотного анализа, или с помощью контурного анализа сигнала и логического анализа выявленной последовательности характерных точек.
статистическая обработка. Сюда входит ряд процедур для вычисления функции и плотности распределения, математического ожидания, дисперсии, среднего квадратичеокого отклонения, вариации, асимметрии, эксцесса, корреляционной функции, спектральной плотности и других стандартных статистических характеристик.
вычисление вторичных параметров по формулам. Если в прибор закладываются возможности программирования этих формул пользователем, то обычно в состав программного обеспечения входит язык интерпретирующего типа, например БЕЙСИК;
амплитудно-временной и контурный анализы. К этим процедурам относятся определение параметров экстремальных точек, длительностей фронта и среза импульсов, выделение характерных точек, точек пересечения заданного порога и пр. Применяются две основные разновидности анализа: полуавтоматический, когда оператор выделяет с помощью маркеров анализируемый участок или отдельные точки, задает уровни или моменты времени, а затем микропроцессор автоматически анализирует и выполняет задание; автоматический, когда задание на обработку не включает субъективной, т. е. зависящей от оператора, информации.
В зависимостиот предъявляемых к системе требований вычислительные процедуры могут быть совмещены по времени с вводом информации или могут выполняться над накопленным массивом после ввода. В первом случае вычисления проводятся в интервалах времени между отсчетами АЦП или применяется техника накопления и вычисления, известная в литературе под термином «пинг-понг». При этом создается буферная память для ввода данных, которая делится пополам; в то время как в одну из половин памяти производится запись отсчетов с АЦП методом прямого доступа, данные, хранящиеся во второй половине памяти, обрабатываются процессором; затем производится переключение половин памяти: первая подключается к процессору, вторая—к АЦП. В системах с совмещением времени ввода и времени вычислений ресурсы одного процессора среднего быстродействия, как правило, недостаточны для полной обработки сигнала за время ввода; поэтому широко применяются аппаратные расширители, специализированные процессоры и многопроцессорные системы.
В системах с обработкой накопленного массива после ввода данных требуемая скорость выполнения вычислительных функций определяется или условиями диалога с оператором (если вычисленные параметры не используются для автоматического управления), или допустимой задержкой формирования управляющего сигнала (если в результате вычислений формируется управляющее воздействие).