ТОЧНІСТЬ КЛАСИФІКАЦІЇ. ОЦІНКА РІВНЯ ПОМИЛОК

Кластерний аналіз – це набір засобів для побудови груп (кластерів) із багатовимірних об’єктів даних. Завдання: побудувати групи з гомогенними властивостями із гетерогенного набору даних. Групи кластерів повинні бути гомогенними усередині, а різниці між окремими груп повинні бути гетерогенними.

Кластериний аналіз можна поділити на дві фундаментальні складові:

– вибір міри подібності. Досліджують пари спостережень на подібність їхніх властивостей. Міра подібності визначається для вимірювання «близькості» об’єктів;

– вибір алгоритму побудови груп. В основі лежить призначення об’єктів до певних груп таким чином, щоб різниці між групами ставали якомога більшими, а спостереження у групах – настільки близькими, наскільки це можливо.

Подібність об’єктів

Вихідна точка кластерного аналізу – матриця із вимірюваннями (об’єктами) та змінними. Подібність між об’єктами описують матрицею

Матриця містить міри подібності або відмінності між об’єктами. Якщо значення – відстані, то вони описують відмінності. Чим більша відстань – тим менш подібні об’єкти. Якщо – значення міри подібності, то справедливе зворотнє твердження, тобто чим більше значення міри, тим об’єкти ближчі. Матриця відстаней може, наприклад, визначатися -нормою: , де та позначають рядки матриці даних . Відстань та подібність – дуальні.

Природа спостережень відіграє важливу роль у вибору міри подібності. Номінальні значення (наприклад, бінарні змінні) ведуть до міри подібності, тоді як метричні (у загальному) – до матриць відстаней.

Подібність об’єктів бінарної структури

З метою визначення подібності між об’єктами порівнюють пари спостережень , де , , . У такиму випадкові можливі чотири ситуації:

На приактиці значення відстані обчислюють наступним чином:

де

Зауважимо, що кожне , залежить від пар . У даній формулі та – вагові фактори, у таблиці наведено деякі способи їх задання:

Назва		Визначення
Джакарда (Jaccard)
Танімото (Tanimoto)
Дайса (Dice)	0.5

Дане формує альтернативний підхід до зваження неспівпадань чи позитивних (наявність спільного символу) та негативних (відсутність спільного символу) співпадань. Звичайно, можна скористатися Евклідовою відстанню і для бінарних даних. Проте, недоліком такого визначення відстані буде те, що операції над значеннями 0 та 1 будуть однаковими. Якщо, наприклад, визначає володіння якимись навичками, які є необхідною умовою для класифікації об’єктів як подібних, то протилежне (не володіння цими навичками) повинно впливати на результат інакшим чином, ніж 1 (тобто, відсутність подібності цього параметру більше свідчить про відмінність між спостереженнями, ніж наявність про подібність).

Бінарні змінні можна утворити із неперервних наступним чином:

Міра відстані для неперервних величин

Для визначення відстані між об’єктами, які характеризують неперервні величини, можна скористатися -нормами, ,

Нехай представляє значення -ї змінної об’єкту . Зрозуміло, що =0 для . Клас відстаней, утворений даним виразом для змінної визначає відмінності чи подіності різної ваги. , наприклад, надає менше ваги стороннім об’єктам, ніж норма . У переважній більшості випадків використовують квадрат норми .

Приклад. Нехай існують , та . Тоді матриці вдстаней для норм та відповідно мають вигляд:

, .

Як видно, третє спостереження набуло значно більшої ваги для квадрату норми , ніж у випадкові норми .

Основна вимога для використання відстаней, які визначають за нормами : змінні повинні бути виміряні в одному масштабі.