Известно, что множество целых чисел бесконечно. Однако ЭВМ из-за ограниченности её разрядной сетки может оперировать лишь с некоторым конечным подмножеством этого множества
. При решении научно-технических задач в основном используются действительные числа. Для их представления почти во всех машинах используется форма с плавающей точкой. Десятичное число
в этой форме записи имеет вид
, где
и
— соответственно мантисса числа и его порядок.
Например, число
можно записать в виде:
. Последняя запись — нормализованная форма числа с плавающей точкой. Таким образом, если представить мантиссу числа в виде
, то при
получим нормализованную форму числа с плавающей точкой.
Число
в системе счисления с основанием
можно представить в виде
. Подмножество действительных чисел, с которым оперируетконкретная ЭВМ, конечно и определяется разрядностью
, а также границами порядка 
. Можно показать, что это подмножество содержит
чисел. Границы порядка
определяют ограниченность действительных чисел по величине, а разрядность
— дискретность распределения, их на отрезке числовой оси.
Например, в случае десятичных чисел при четырехразрядном представлении все значения, находящиеся в интервале между числами
и
, представляются числом
(при отбрасывании остальных разрядов без округления). Разность между двумя соседними значениями равна единице последнего разряда. Числа, меньшие этой разности, воспринимаются как машинный нуль.
Таким образом, ЭВМ оперирует с приближенными значениями действительных чисел. Мерой точности приближенных чисел является погрешность.