Для упрощения структуры большинствосетей организуется в наборы уровней, каждый последующий из которых возводится над предыдущим. Количество уровней, их названия, содержание и назначение разнятся от сети к сети. Однако во всех сетях целью каждого уровня является предоставление неких служб для более верхних уровней, скрывая от верхних уровней детали реализации предоставляемого сервиса.
Уровень n одной машины поддерживает связь с уровнем n другой машины. Правила и соглашения, используемые в данном общении, называются протоколом уровня n. На рисунке показана пятиуровневая сеть. Объекты, включающие в себя соответствующие уровни на различных машинах, называются одноранговыми или равноправными узлами сети. Именно они общаются при помощи протокола. В действительности данные не пересылаются с уровня n одной машины на уровень n другой машины. Вместо этого каждый уровень передает данные и управление уровню, лежащему ниже, пока не достигается самый нижний уровень. Ниже первого уровня располагается физический носитель, по которому и производится обмен информацией.
На рисунке виртуальное общение показано пунктиром, а физическое – сплошными линиями.
Между каждой парой смежных уровней находится интерфейс, определяющий набор примитивных операций, предоставляемых нижним уровнем верхнему. Набор уровней и протоколов называется архитектурой сети. Список протоколов, используемых системой (по одному – на уровень) называется стеком протоколов.