Самый первый сканирующий туннельный микроскоп был создан в Цюрихе (Швейцария) сотрудниками лаборатории фирмы IBМ Бинингом Г. и Рорером Г.. Принцип его действия основан на туннельном эффекте, позволяющем наблюдать и даже контролировать положение отдельных атомов, т.е. работать с точностью до нескольких ангстрем (1 Å= 10-10м), которая на сегодняшний день является максимальной для всех существующих научных и технических методик.
Главным элементом сканирующих туннельных микроскопов выступает очень тонкий металлический зонд (иногда его называют щупом или просто иглой), двигающийся вдоль поверхности. Между зондом и поверхностью приложено электрическое напряжение, в результате чего возникает туннельный ток, величина которого позволяет фиксировать неоднородности или иные особенности исследуемой поверхности. При этом зонд должен находиться на расстоянии 1 мкм (10-6м) от образца, что является условием возникновения и поддержания туннельного тока (при более малых расстояниях возникает сильный электрический ток обычного типа, а при больших – туннельный ток становиться исчезающе малым). Положение зонда, следовательно, определяется некоторым фиксированным значением туннельного тока. Сканируя поверхность, подобно лучу в электронной трубке телевизора, получается высокоточная картина состояния поверхности. При идеальной «остроте» зонда (когда на его острие будет находиться один-единственный атом!) точность описания будет соответствовать отдельным атомам. Небольшие изменения величины туннельного тока могут означать, например, изменения ориентации атома на поверхности.
В реальных установках, конечно, невозможно пользоваться столь тонкими, атомарными зондами, а применяются пьезоэлементы из специальной керамики, в которой изменения приложенного электрического напряжения вызывают механическое сжатие. Такие пьзоэлементы уже широко применяются и в бытовой технике, когда необходимо «перевести» электрические сигналы в механические колебания (например, для подачи звуковых сигналов в электронных часах и других устройствах). Технические проблемы работы с СТМ обусловлены тем, что движение зонда вдоль поверхности должно регистрироваться и контролироваться с исключительно высокой, атомарной точностью.
На рисунке приведена принципиальная схема работы сканирующего туннельного микроскопа и пример получаемых при этом СТМ-изображений поверхности. Изображение соответствует поверхности кристаллического кремния, на которую нанесен один «ряд» атомов галлия.