де - максимальна швидкість передачі H - ширина смуги пропускання каналу, виражена у Гц, М - кількість рівнів сигналу, які використовуються при передачі. Наприклад, із цієї формули видно, що канал з смугою 3 кГц не може передавати дворівневі сигнали швидше 6000 біт/сек.
Ця теорема також показує, що, наприклад, безглуздо сканувати лінію частіше, ніж подвоєна ширина смуги пропускання. Дійсно, всі частоти вище цієї відсутні в сигналі, а тому вся інформація, необхідна для відновлення сигналу буде зібрана при такому скануванні.
Однак, теорема Котельникова Найквіста не враховує шум в каналі, який вимірюється як відношення потужності корисного сигналу до потужності шуму: S/N. Ця величина вимірюється в децибелах: 10log10(S/N) dB. Наприклад, якщо відношення S/N дорівнює 10, то говорять про шумі у 10 dB якщо відношення дорівнює 100, то - 20 dB.
На випадок каналу з шумом є теорема Шеннона, за якої максимальна швидкість передачі даних по каналу з шумом дорівнює:
H log2 (1+S/N) біт/сек,
де S/N - співвідношення сигнал-шум у каналі.
Тут вже не важливо кількість рівнів в сигналі. Ця формула встановлює теоретична межа, який рідко досягається на практиці. Наприклад, по каналу з смугою пропускання в 3000 Гц і рівнем шуму 30 dB (це характеристики телефонної лінії) не можна передати дані швидше, ніж зі швидкістю 30 000 біт/сек.