Понятие архитектуры ЭВМ впервые был успешно применен при проектировании серии вычислительных машин IBM System/360, серии универсальных ЭВМ общего назначения, каждая из которых имела разную производительность и конструктивные особенности, но все они были программно совместимы. Такая совместимость означала возможность выполнять программы без необходимости их дополнительной адаптации к разным моделям серии и была в определенной степени революционным, ведь в то время практически все ЭВМ выпускались, как бы мы сейчас сказали, с уникальной архитектурой и необходимы были существенные затраты для адаптации существующего программного обеспечения к новых моделей вычислительной техники. И если для специализированных вычислителей это было платой за высокие показатели быстродействия, то для класса универсальных ЭВМ такая ситуация была недопустима.
Специалисты фирмы IBM при создании System/360 (S/360) сделали архитектуру единой для всех машин серии, но реализовали ее в каждой машине по-разному. В 1964 году было анонсировано сразу 6 моделей S/360.
Архитектура S/360 именно благодаря такой совместимости моделей имела большой коммерческий успех и получила свое развитие в следующей серии System/360, и в новой серии z / Server.