Здесь предполагается выбор математических формул, определение правил, по которым осуществляется связь между этими формулами, установление последовательности перехода между этими формулами так, чтобы этот переход могла осуществить машина. Чаще всего во многих случаях на помощь нам приходят численные методы решения задач.
Выбирая подходящий к данной задаче метод, надо учитывать сложность формул и соотношений, используемых тем или иным численным методом. Подчас задача налагает жесткие требования и на величину погрешностей вычислений метода, и программист должен оценивать их и сопоставлять с допустимым уровнем погрешностей. Нередко на выбор оказывают влияние и другие характеристики методов.