Кластер-анализ

К лас тер - анализ представляет собой группу алгоритмов многомерной классификации объектов, под которой понимается упорядочение в наглядные структуры или группы сходства/различия объектов, обладающих множеством характеристик. В качестве объектов могут выступать не только наблюдения (респонденты, политические партии и т. д.), но и переменные.

Например, в парламентских выборах 17 декабря 1995 г. приняли участие 43 избирательных объединения, выборы проводились во всех 89 регионах России. Наша задача — разбить субъекты Федерации на несколько групп по признаку близости политических предпочтений избирателей, выявленных в ходе голосования за избирательные объединения и блоки. Наши исходные данные в этом случае составят таблицу с 89 столбцами и 43 строками, всего 3287 (43 х 89) числовых данных. Даже если мы проведем предварительное «сжатие» данных с помощью группировки или типологизации, например объединим блоки в несколько идеологически близких групп, — все равно решить поставленную задачу будет крайне проблематично. Если, конечно, не применять кластер-анализ, который как раз и предназначен для решения подобного рода проблем.

Среди различных алгоритмов классификации, объединяемых кластер-анализом, наиболее распространены три — иерархический кластер-анализ ((гее с1и8(епп§), метод К-средних (К-шеапз) и двухходовое объединение ((дао-тоау.]о1шп§). Мы рассмотрим первые два алгоритма как более активно используемые в анализе политической информации.

Иерархический кластер-анализ

Иерархический кластер-анализ организует данные в наглядные «древовидные» структуры, или дендрограммы. Пример такой структуры приводится ниже; в качестве объектов выступают политические партии и блоки, упорядоченные с точки зрения близости в пространстве голосований в 16 районах Северо-Восточного АО г. Москвы на парламентских выборах 1999 г.

Это горизонтальная дендрограмма. На ней расстояния между объектами и группами объектов (кластерами) различаются по горизонтальной оси. Так, наименьшее расстояние зафиксировано между о0бъектами партий «Яблоко» и СПС — они соединены самой короткой ветвью. Вторые по близости — КПРФ и кластер «"Яблоко" — СПС».2 Третьи по близости объекты — «Единство» и «Блок Жиринов -

В древовидной классификации нет четкого правила определения, какие объекты входят в один кластер, а какие нет. Все зависит от исследовательского критерия уникальности объектов. Если критерий уникальности «слабый», т. е. вы хотите получить минимальное число кластеров, можно считать таковыми «"Яблоко" — СПС — КПРФ» (1) и «"Единство" — БЖ — ОВР» (2). Эти два кластера, между прочим, будут сильно различаться по плотности: расстояния в первом кластере значительно меньше, чем во втором.

При более «сильном» критерии уникальности можно рассматривать ОВР как изолированный объект, не входящий ни в один кластер. При максимально сильном критерии уникальности можно говорить о кластере «"Яблоко" — СПС» и четырех изолированных объектах.

Создание дендрограммы: вычислительный аспект

Для указанного примера мы имеем исходные данные в виде процентов голосов, набранных 6 ведущими партиями и избирательными объединениями в 16 районах Северо-Восточного АО г. Москвы на выборах депутатов Госдумы 1999 г. Они представлены в таблице.

В кластер-анализе используется принцип геометрического представления, о котором уже говорилось ранее. Мы представляем объекты как точки в л-мерной системе координат. В нашем случае каждая партия будет иметь определенную позицию в 16-мерном (по числу районов) признаковом пространстве. Естественно, если число измерений превышает три, мы не можем получить визуальное геометрическое представление. Впрочем, это никоим образом не мешает нашему исследованию.

Создание дендрограммы происходит в два этапа:

1)построение матрицы расстояний (измерение расстояния между всеми парами имеющихся объектов);

2) построение дендрограммы на основе полученной матрицы расстояний.

Уже н а стадии построения матрицы расстояний возникает возможность выбирать из нескольких вариантов: что именно считать расстоянием, какую метрику использовать? В стандартных компьютерных программах кластер-анализа мы имеем семь-восемь различных мер близости (или мер расстояния — англ. сНзГапсе теазиге). Среди них: евклидово расстояние, взвешенное евклидово расстояние, манхэттенское расстояние, расстояние Чебышева, степенное расстояние, процент несогласия, коэффициент Пирсона. Более подробно остановимся на евклидовом расстоянии (еис1есНап сШГапсе) и расстоянии, основанном на коэффициенте корреляции Пирсона (1 — г).

Евклидово расстояние — это кратчайшее расстояние (сНзГ) между двумя точками х и у в л-мерном евклидовом пространстве. Оно вычисляется по простой формуле:

Так, если мы имеем х с координатами — и у (2; 0), то расстояние между ними составит:

Используя эту формулу, можно подсчитать все парные расстояния для наших исходных данных и получить матрицу расстояний:

Вариацией евклидова расстояния является взвешенное евклидово расстояние. Эта мера близости отличается тем, что отсутствует операция извлечения квадратного корня:

Таким образом, происходит «растягивание» дистанций: большие расстояния становятся многократно больше, незначительные же увеличиваются не столь существенно. Большим расстояниям придается больший вес, отсюда и название меры близости. Для наших данных матрица расстояний во взвешенной евклидовой метрике имела бы следующий вид:

Плотная положительная корреляция «СПС — "Яблоко"» (г= 0,86) стала наименьшим расстоянием — 0,14. Плотная отрицательная корреляция «БЖ — СПС» (г= -0,82) стала наибольшим расстоянием — 1,82. Следует оговориться, что мера расстояния 1 - г не используется;

Так, расстояние «"Яблоко" — СПС» увеличилось с 9 до 82, тогда как расстояние «БЖ — ОВР» — со 159 до 25 378. Такой прием может понадобиться тогда, когда различия расстояний между объектами незначительны и структура объектов ненаглядна. В нашем же случае гораздо удобнее использовать обычное евклидово расстояние.

Принципиально иной метод вычисления матрицы расстояний основан на парном корреляционном анализе Пирсона, о котором подробно говорилось выше. Сначала вычисляется матрица парных корреляций, которая для наших данных будет иметь вид:

После вычисления матрицы парных расстояний можно приступать к формированию дендрограммы. Однако и на этой стадии мы имеем достаточно широкий набор опций. Основной вопрос состоит в том, каким образом связывать вместе несколько объектов, как следует определить расстояния между кластерами, т. е. необходимо выбрать правило объединения (или правило связи). Как и в случае с мерой близости, в статистических программах имеется около семи вариантов выбора правила объединения. Основные из них: одиночная связь (метод ближайшего соседа), полная связь (метод дальних соседей), невзвешенное и взвешенное попарное среднее, невзве-шенный и взвешенный центроидный метод, метод Варда.

Например, в случае использования метода ближайшего соседа (пеаг-ез( пе1§ЬЬоиг, 8Ш§1е Ппкаде) расстояние между двумя кластерами определяется расстоянием между двумя наиболее близкими объектами в различных кластерах. Построение дендрограммы начинается с нахождения наименьшего значения среди всех парных расстояний. В методе дальних соседей (сошр1е(е Ппкаде), напротив, расстояния между кластерами определяются наибольшим расстоянием между любыми двумя объектами в различных кластерах. Соответственно, формирование дендрограммы начинается с поиска самой удаленной пары объектов.

Как выбирать меры близости и правило объединения? В некоторых случаях существуют четкие критерии. Так, процент несогласия как мера расстояния «работает» только на категориальных данных. Однако чаще простых и ясных критериев не существует. Чтобы с ходу «попасть в яблочко», требуются серьезная статистическая подготовка и глубокое понимание специфики изучаемых объектов. Практические же советы таковы:

1.Следует, не ограничиваясь одной мерой близости и одним правилом объединения, пробовать различные комбинации (конечно, в разумных пределах). Особого внимания заслуживает общее в кластерной структуре объектов, обнаруживаемое в разных сочетаниях.

2. Необходимо проводить содержательную интерпретацию получаемых результатов, ни в коем случае не ограничиваясь «механическим перебором».

В продолжение рассмотрения нашего примера с электоральной статистикой построим четыре дендрограммы, используя комбинации мер расстояния (евклидово и 1 - г) и правил связи (полная и одиночная связь).

Сопоставляя полученные результаты, попробуем найти общие моменты и дать им содержательное объяснение.

Так, на трех дендрограммах четко видно изолированное положение блока «Отечество — вся Россия» (ОВР). Напомним, что кластер-анализ осуществлялся на данных избирательных комиссий районов Москвы, мэр которой Ю. М. Лужков являлся одним из лидеров блока. При этом парламентские выборы в декабре 1999 г. проходили одновременно с выборами столичного главы. Несомненно, все это способствовало более четкому позиционированию ОВР в глазах столичных избирателей.

На всех дендрограммах фиксируется близость «Яблока» и СПС, причем в двух случаях (3,4) это наименьшее расстояние между объектами. Здесь «московская специфика», скорее всего, ни при чем — близость электората СПС и «Яблока» в территориальном разрезе являлась на тот момент общероссийской тенденцией (мы уже рассматривали этот вопрос в параграфе, посвященном корреляционному анализу). Общероссийской закономерностью на парламентских выборах 1999 г. являлась также близость в территориальном разрезе электоратов «Единства» и «Блока Жириновского» (все дендрограммы).

Больше вопросов вызывает близость, с одной стороны, СПС и «Яблока», с другой — КПРФ. Казалось бы, эти партии в значительной мере полярны по своим идеологическим установкам. Ключ к ответу содержится, вероятно, в дендрограммах 3 и 4, демонстрирующих картину двух противостоящих кластеров: «"Единство" — БЖ — ОВР» и «СПС — "Яблоко" — КПРФ». Содержательное различие между двумя кластерами можно представить как признак отсутствия/наличия выраженной политической идеологии. «Правые» СПС и «Яблоко» и «левая» КПРФ были четко позиционированы в политико-идеологическом спектре, в отличие от «партий власти» ОВР и «Единства» (и в меньшей степени «Блока Жириновского»). Таким образом, можно предполагать наличие «раскола» (электорального размежевания) в Москве по линии «идейные» — «властные» партии.

К проблеме интерпретации структур электорального выбора мы вернемся, когда будем рассматривать факторный анализ.