Теоретически передаточная функция (ПФ) тракта приема-передачи должна соответствовать ПФ фильтра Найквиста.
Реальная ПФ тракта всегда имеет большие или меньшие отличия от ПФ Найквиста. Они классифицируются на:
систематические (не изменяющиеся при эксплуатации системы);
случайные (изменяющиеся с течением времени).
Систематические искажения могут быть связаны, в частности, с особенностями проекта в целом (в этом случае они будут характерными для всей серии). Например при использовании фильтров Гаусса или Чебышева ПФ системы принципиально отличается от ПФ Найквиста (что приводит к ненулевой межсимвольной интерференции). Систематические искажения могут отражать также особенности конкретного экземпляра приемного или передающего устройства.
Случайные искажения связаны, в основном, с изменением состояния среды распространения сигнала и интерференционными эффектами в ней.
Если существует систематическое или случайное отклонение ПФ тракта от ПФ фильтра Найквиста, то возникает межсимвольная интерференция.
Передаточная функция характеризует линейные свойства системы. Замечательным свойством линейных искажений (в отличие от нелинейных) является то, что их можно корректировать. Особенно эффективно это получается в цифровых системах по двум причинам:
«безболезненно» могут быть выделены интервалы времени для тестирования ПФ тракта с целью настройки корректора;
не обязательно получать строго определенную при проектировании импульсную характеристику Найквиста, достаточно лишь, чтобы она имела нули в позициях соседних символов.
Корректоры, способные к автоматической подстройке под изменяющуюся передаточную функцию тракта называют адаптивными.
Классификация способов коррекции
· Оценка параметров цифровой последовательности с максимальным правдоподобием (maximum-likelihood sequence estimation – MLSE). При использовании этого способа компенсация искажений передаточной функции тракта непосредственно не производится, и искаженные межсимвольной интерференцией выборки не изменяются. Вместо этого приемник проектируется так, чтобы правильно детектировать искаженные выборки.
· Чаще применяется коррекция с помощью фильтров. В этом случае на вход детектора поступает последовательность выборок с устраненной корректором межсимвольной интерференцией.