Известно, что множество целых чисел бесконечно. Однако ЭВМ из-за ограниченности её разрядной сетки может оперировать лишь с некоторым конечным подмножеством этого множества. При решении научно-технических задач в основном используются действительные числа. Для их представления почти во всех машинах используется форма с плавающей точкой. Десятичное число в этой форме записи имеет вид , где и — соответственно мантисса числа и его порядок.
Например, число можно записать в виде: . Последняя запись — нормализованная форма числа с плавающей точкой. Таким образом, если представить мантиссу числа в виде , то при получим нормализованную форму числа с плавающей точкой.
Число в системе счисления с основанием можно представить в виде . Подмножество действительных чисел, с которым оперируетконкретная ЭВМ, конечно и определяется разрядностью , а также границами порядка . Можно показать, что это подмножество содержит чисел. Границы порядка определяют ограниченность действительных чисел по величине, а разрядность — дискретность распределения, их на отрезке числовой оси.
Например, в случае десятичных чисел при четырехразрядном представлении все значения, находящиеся в интервале между числами и , представляются числом (при отбрасывании остальных разрядов без округления). Разность между двумя соседними значениями равна единице последнего разряда. Числа, меньшие этой разности, воспринимаются как машинный нуль.
Таким образом, ЭВМ оперирует с приближенными значениями действительных чисел. Мерой точности приближенных чисел является погрешность.