Современная вычислительная математика располагает большим арсеналом методов, а математическое обеспечение ЭВМ — многими пакетами прикладных программ, позволяющих решать различные возникающие на практике линейные системы. Чтобы ориентироваться среди методов и программ и в нужный момент сделать оптимальный выбор, нужно разбираться в основах построений методов и алгоритмов, учитывающих специфику постановок задач, знать их сильные и слабые стороны и границы применимости.
Все методы решения линейных алгебраических задач (наряду с задачей решения СЛАУ, это и вычисление определителей, и обращение матриц, и задачи на собственные значения) можно разбить на два класса: прямые и итерационные. Прямые методы – это такие методы, которые приводят к решению за конечное число арифметических операций. Если операции реализуются точно, то и решение также будет точным (в связи с чем к классу прямых методов применяют еще название точные методы). Итерационными методами называют методы, в которых точное решение может быть получено лишь в результате бесконечного повторения единообразных (как правило, простых) действий.
Другое ограничение будет касаться рассматриваемых систем. Условимся говорить о численном решении таких СЛАУ, у которых число уравнений совпадает с числом вещественных неизвестных, причем будем предполагать наличие единственного решения, если существование и единственность не следует из каких-либо условий.
Такое ограничение здесь довольно естественно, так как решение и недоопределенных, и переопределенных систем, а также систем с комплексными коэффициентами и переменными, в конечном счете, сводится к решению однозначно определенных вещественных систем.
Итак, изучается вопрос о численном решении систем вида
(3)
или иначе, векторно-матричных уравнений
Ах = b,
где b = (b1, b2, …, bn)T — вектор свободных членов и x = (x1, x2,…, xn)Т — вектор неизвестных (он же в другой интерпретации может означать и вектор-решение) с вещественными координатами, а А = — вещественная nÍn-матрица коэффициентов данной системы. Эффективность способов решения системы во многом зависит от структуры и свойств матрицы А: размера, обусловленности, симметричности, заполненности (т.е. соотношения между числом ненулевых и нулевых элементов), специфики расположения ненулевых элементов в матрице и др.