Получаемые от экспертов количественные данные или элементарные суждения в виде ранжировок, баллов, попарных предпочтений обрабатываются с целью оценки степени согласованности и компетентности экспертов, а также для получения коллективного мнения экспертной группы. В соответствии с этим при обработке экспертной информации решаются следующие задачи: оценка коллективного мнения экспертной группы; оценка согласованности мнений экспертов; оценка компетентности экспертов.
Оценка коллективного мнения экспертной группы. Методы оценки коллективного мнения экспертной группы зависят от вида получаемых количественных оценок и элементарных суждений. При оценках в физических единицах оцениваемых величин, балльных оценках, попарных сравнениях используются обычные статистические методы точечного и интервального оценивания.
Пусть в результате опроса экспертной группы, включающей m членов, получена следующая совокупность чисел:
x 1 1, x 1 2, . . . , x n 1;
x 1 2, x 2 2, . . . , x n 2;
. . . . . . . . . . . . .
x 1 m, x 2 m, . . . , x n m ,
где x ij - оценка, данная экспертом j объекту i; n - число оцениваемых объектов.
Предполагается, что каждому объекту соответствует точное значение xi*, которое может быть получено при m ∞ . Тогда средняя коллективная оценка объекта i будет
Дисперсия этой оценки
Для определения доверительного интервала I xi= (xi - εpi, xi + εpi) с заданной доверительной вероятностью Р можно использовать точный и приближенный методы. Наиболее практичен приближенный метод, который при большом числе экспертов (m ≥ 10) дает интервальную оценку, близкую к оценке с помощью точного метода. При использовании данного метода величина εpi , определяющая границы доверительного интервала, рассчитывается по формуле
где t p - коэффициент, зависящий от заданной доверительной вероятности, определяется с помощью таблицы, фрагмент которой для отдельных значений Р приведен в табл. 2.
Таблица 2
Значения коэффициента tp
Р
0,8
0,85
0,9
0,95
t p
1,282
1,439
1,643
1,960
Таким образом, если имеем значения m = 10; x i = 5; σ i2 = 4 и задана доверительная вероятность Р = 0,9 , то t p = 1,643 и величина
В результате доверительный интервал I xi= (xi - εpi, xi + εpi) = (3,96; 6,04),
т.е. значение оцениваемой величины x i* будет лежать в этом интервале с вероятностью 0,9, или 3,96 < x i* < 6,04 при Р = 0,9.
При группировке (сортировке) и ранжировании объектов коллективная оценка может быть получена в соответствии с простым правилом: объекты i следует располагать согласно суммам S i их рангов (номеров, классов) x i j полученных в результате индивидуальных оценок каждым j -м экспертом. Таким образом, на первое место ставится объект i, сумма рангов которого S i = x i 1 + x i 2 + ... + x i m будет минимальной; на второе место - объект l, сумма рангов которого Sl = x l 1 + x l 2 + ... + x l m , занимает следующее по значению место и т.д.
Оценка согласованности мнений экспертов производится с целью выявления подгрупп экспертов с близкими мнениями. При высокой согласованности всей группы коллективная оценка будет единственной. При низкой степени согласованности из общей группы следует выделить подгруппы экспертов, имеющих высокую согласованность, и провести сравнительный содержательный анализ их оценок с целью выявления причин различия точек зрения этих подгрупп. В том случае, если причина заключается в недостаточной добросовестности экспертов, то следует исключить оценку подгруппы и повторить экспертный опрос.
Методы определения согласованности также зависят от вида оценок.
При оценках в физических единицах величин, балльных оценках, попарных сравнениях согласованность мнений экспертов оценивается с помощью коэффициента вариации γ i, который рассчитывается по формуле
, и определяет относительную величину разброса оценок экспертов по отношению к среднему значению коллективной оценки x i.
При полной согласованности экспертов, когда все x i j = x i, γ i = 0. Полагают, что согласованность экспертов удовлетворительная, если все γ i < 0,3 , и хорошая, если все γ i < 0,2 .
При группировке и ранжировании объектов, согласованность мнений экспертов определяется с помощью коэффициента конкордации W, характеризующего степень согласованности мнений экспертов по всем оцениваемым объектам.
Пусть в результате экспертного опроса произведено ранжирование объектов, в ходе которого установлены ранги x ij каждого i - го объекта j - м экспертом, i = 1,2, . . . , n; j = 1,2,. . . , m.
Тогда коэффициент конкордации определяется следующим образом. Вычисляются суммы рангов i -х объектов
и среднее значение полученных величин
Определяются отклонения d i сумм S i от среднего значения S*: d i = S i – S *, i = 1,2,...., n.
Среди множества рангов x 1 j , x 2 j , . . . , x nj , присвоенных объектам j-м экспертом, определяется количество групп rj, имеющих равные ранги, и количество равных рангов t s в каждой s-й группе.
Допустим, что производится ранжировка n = 9 объектов, которым j-й эксперт присвоил ранги, представленные в табл.3.