ЛИНЕЙНАЯ ДИСКРиминантная ФУНКЦИЯ ДВУХ ПЕРЕМЕННЫХ

Линейная дискриминантная функция D двух переменных Х и У имеет вид D = а₁ • X + а₂•Y, где а₁ и а ₂ — коэффициенты дискриминантной фунции. Эти коэффициенты находят путем ре­шения системы (1) двух уравнений:

(1)

где d₁ и d₂ - разности средних значений признаков X и У по выборкам А и В, т.е. cov_jj - элементы ковариационной матрицы [СОV] объединенной выборки [А +В]признаков X и Y. Матрица имеет вид:

(2)

Элементы cov_jj ковариационной матрицы [СОV] представляют собой смешанные моменты первого порядка объединенной выборки [А+В]. Они рассчитываются как среднее произведение отклонений двух величин Х и Y от их средних значений по формуле:

(3)

где SP (X, Y) - сумма произведений отклонений величин X и Y от их средних значений, п_А и п_В, объемы выборок А и В. При этом элементы ковариационной матрицы cov_xy и cov_yх числекн. равны друг другу, т.е. cov_xy = cov_yх, а элементы главной диагонали матрицы cov_xх и cov_yу представляют собой дисперсии переменных X и У, которые рассчитьваются по формулам: (4)

(5)

Система уравнений (1) решается с помощью операций обращения и умножения матриц. Однако эта процедура является довольно сложной. Поэтому для определения коэффициентов мы будем использовать более простой способ вычислений с помощью определителей (детерминантов) ковариационной матрицы по формулам Крамера:

и

где D - определитель ковариационной матрицы [COV]объединенной выборки [А+В], , - определители матриц, получаемых из основной матрицы [COV] путем замены в ней столбца, соответствующего индексу коэффициента a_j , вектором-столбцом [d_j]. При этом для нахождения детерминанта в основной матрице заменяется первый столбец cov_ij , а для детерминанта - второй столбец cov_ij.

Детерминанты D, и вычисляются по следующим формулам:

После вычисления коэффициентов a₁ и a₂ строится уравнение дискриминантаой функции и рассчитывается значение дискриминантного индекса d_o

Дискриминантный индекс d_o -соответствует точке разделяющей прямой на рис.1 которая лежит точно посредине между центрами выборки А и выборки В. Поэтому с его помощью мож­но сделать вывод о принадлежности любого двухмерного наблюдения из третьей выборки С кодной из двух исходных групп (выборке А или выборке В). Для этого значения X и Y двухмерного наблюдения из выборки С подставляются в неравенство а₁∙X + а₂∙Y³ d_o . Если неравенство выполняется, то это наблюдение следует отнести к выборке А, иначе - к выборке В.

Статистическую значимость рассчитанного уравнения линейной дискриминантной функ­ции можно оценить с помощью F-критерия Фишера и критерия Махалонобиса d_, который характеризует так называемое "обобщенное расстояние" между двумя многомерными средними выраженное в единицах дисперсии объединенной выборки [А+В]. Графически критерий Махалонобиса соответствует расстоянию на рис. 1 между центрами двухмерных распределений, т.е. расстоянию между центром , и центром , Чем больше это расстояние d², тем более уверенное разделение многомерных наблюдений на две группы можно провести.

Для случая двух переменных критерий Махалонобиса рассчитывается по формуле

d_М²= а₁∙ d₁ + а₂∙ d₂

Критерий Фишера через эторасстояние определяется по формуле:

где т - количество переменных.

(п_А+п_B-2)-т

Если Fрасч³Fтеор. для принятогоуровня значимости а и при степенях свободы f₁ = т-2, f₂= n_а+ n_B -т-1, то нулевая гипотеза о равенстве двух многомерных средних (т.е. о равенстве нулю расстояния d² между ними) отвергается, т.е. дискриминантная функция признается статистически значимой.

Относительный вклад j-й переменной в расстояние d² между многомерными средними двух групп А и В определяется по формуле Однако следует учесть, что эта мера отражает прямой вклад только каждой j-й переменной, но не учитывает взаимодействие между переменными. Если две и более переменные, входящие в дискриминантную функцию не являются независимыми, то их совместный вклад в расстояние d²може быть более значительным, чем это следует из величин e_j.

Следует учесть также, что если классифицируемый объект из выборки С не принадлежит к одной из двух обучающих выборок А или В, то применение линейного дискриминантного анализа может привести к неправильным представлениям и выводам.