Шифр табличного гаммирования в алфавите А={a1,...,an} определяется произвольным латинским квадратом L на А и способом получения последовательности букв из А, называемой гаммой шифра. Буква аi открытого текста под действием знака гаммы аj переходит в букву аk шифрованного текста, содержащуюся в j-й строке и i-м столбце квадрата L (подразумевается, что строки и столбцы в L занумерованы в соответствии с порядком следования букв в алфавите А).
С алгебраической точки зрения буква аk есть результат применения к буквам аi и аj квазигрупповой операции *, табличным заданием которой является латинский квадрат L: аk = аi * аj.
В случае шифра Виженера квазигруппа (А,*) является группой (Zn,+). При этом уравнение шифрования имеет вид
bi=(ai+gi)mod n, (1)
а {gi} представляет собой периодическую последовательность, образованную повторением некоторого ключеого слова.
Наряду со сложением используется и вычитание знаков гаммы. Соответствующие уравнения шифрования принимают вид
bi=(ai – gi )mod n (2)
или
bi=(gi –ai)mod n. (3)
Шифры гаммирования с уравнениями шифрования (1) – (3) обычно называют шифрами модульного гаммирования.
Если в качестве квазигрупповой операции * на множестве 5-мерных двоичных векторов используется операция покоординатного сложения по модулю 2, то получаем шифр Вернама.
Шифры гаммирования замечательны тем, что при их применении для зашифрования и расшифрования требуется лишь один узел. В самом деле, знаки открытого текста находятся из тех же уравнений при взаимной замене аi на bi. Такие шифры обычно называют обратимыми (см. замечание после примера шифра Хилла).