Логлинейный анализ - Log-linear analysis

Логлинейный анализ - это метод, используемый в статистике для изучения взаимосвязи между более чем двумя категориальными переменными . Этот метод используется как для проверки гипотез, так и для построения модели. В обоих случаях модели тестируются, чтобы найти наиболее экономную (т. Е. Наименее сложную) модель, которая наилучшим образом учитывает дисперсию наблюдаемых частот. ( Вместо лог-линейного анализа можно использовать критерий хи-квадрат Пирсона , но этот метод позволяет сравнивать только две переменные одновременно.)

Критерий подгонки

Логлинейный анализ использует статистику отношения правдоподобия, которая имеет приблизительное распределение хи-квадрат при большом размере выборки: ${\ Displaystyle \ mathrm {X} ^ {2}}$

${\ displaystyle \ mathrm {X} ^ {2} = 2 \ sum O_ {ij} \ ln {\ frac {O_ {ij}} {E_ {ij}}},}$

где

${\ Displaystyle \ ln =}$ натуральный логарифм ;

${\ displaystyle O_ {ij} =}$ наблюдаемая частота в ячейке _ij ( i = строка и j = столбец);

${\ displaystyle E_ {ij} =}$ ожидаемая частота в ячейке _ij .

${\ Displaystyle \ mathrm {X} ^ {2} =}$ девиации для данной модели.

Предположения

В логлинейном анализе есть три допущения:

1. Наблюдения независимы и случайны ;

2. Наблюдаемые частоты обычно распределяются относительно ожидаемых частот по повторяющимся выборкам. Это хорошее приближение, если (а) ожидаемые частоты больше или равны 5 для 80% или более категорий и (б) все ожидаемые частоты больше 1. Нарушение этого предположения приводит к значительному сокращению власть. Предлагаемые решения для этого нарушения: удалить переменную, объединить уровни одной переменной (например, объединить мужчин и женщин) или собрать больше данных.

3. Логарифм ожидаемого значения переменной ответа представляет собой линейную комбинацию независимых переменных. Это предположение настолько фундаментально, что о нем редко упоминают, но, как и большинство предположений о линейности, оно редко бывает точным и часто просто делается для получения управляемой модели.

Кроме того, данные всегда должны быть категориальными. Непрерывные данные можно сначала преобразовать в категориальные данные с некоторой потерей информации. Как для непрерывных, так и для категориальных данных лучше всего использовать логистическую регрессию . (Любые данные, которые анализируются с помощью лог-линейного анализа, также можно анализировать с помощью логистической регрессии. Выбор метода зависит от вопросов исследования.)

Переменные

В логлинейном анализе нет четкого различия между тем, какие переменные являются независимыми или зависимыми . Переменные обрабатываются одинаково. Однако часто теоретические основы переменных приводят к тому, что переменные интерпретируются либо как независимые, либо как зависимые переменные.

Модели

Цель логарифмически-линейного анализа - определить, какие компоненты модели необходимо сохранить, чтобы наилучшим образом учесть данные. Компоненты модели - это количество основных эффектов и взаимодействий в модели. Например, если мы исследуем взаимосвязь между тремя переменными - переменной A, переменной B и переменной C - в насыщенной модели будет семь компонентов модели. Три основных эффекта (A, B, C), три двусторонних взаимодействия (AB, AC, BC) и одно трехстороннее взаимодействие (ABC) дают семь компонентов модели.

Логлинейные модели можно рассматривать как континуум с двумя крайностями: простейшая модель и насыщенная модель . Самая простая модель - это модель, в которой все ожидаемые частоты равны. Это верно, когда переменные не связаны. Насыщенная модель - это модель, которая включает в себя все компоненты модели. Эта модель всегда лучше всего объясняет данные, но она наименее экономична, поскольку все включено. В этой модели наблюдаемые частоты равны ожидаемым частотам, поэтому в статистике отношения правдоподобия хи-квадрат соотношение и . Это приводит к тому, что статистика хи-квадрат отношения правдоподобия равна 0, что является наилучшим соответствием модели. Другие возможные модели - это модель условной равновероятности и модель взаимозависимости. ${\ displaystyle {\ frac {O_ {ij}} {E_ {ij}}} = 1}$${\ Displaystyle \ ln (1) = 0}$

Каждая лог-линейная модель может быть представлена ​​как лог-линейное уравнение. Например, с тремя переменными ( A , B , C ) насыщенная модель имеет следующее логлинейное уравнение:

${\ displaystyle \ ln (F_ {ijk}) = \ lambda + \ lambda _ {i} ^ {A} + \ lambda _ {j} ^ {B} + \ lambda _ {k} ^ {C} + \ lambda _ {ij} ^ {AB} + \ lambda _ {ik} ^ {AC} + \ lambda _ {jk} ^ {BC} + \ lambda _ {ijk} ^ {ABC}, \,}$

где

${\ displaystyle F_ {ijk} =}$ ожидаемая частота в ячейке _ijk ;

${\ displaystyle \ lambda =}$ относительный вес каждой переменной.

Иерархическая модель

Модели лог-линейного анализа могут быть иерархическими или неиерархическими. Иерархические модели являются наиболее распространенными. Эти модели содержат все взаимодействия низшего порядка и основные эффекты взаимодействия, которые необходимо изучить.

Графическая модель

Логлинейная модель является графической, если всякий раз, когда модель содержит все двухфакторные члены, порожденные взаимодействием более высокого порядка, модель также содержит взаимодействие более высокого порядка. Как прямое следствие, графические модели являются иерархическими. Более того, будучи полностью определяемой двухфакторными членами, графическая модель может быть представлена ​​неориентированным графом, где вершины представляют переменные, а ребра представляют двухфакторные члены, включенные в модель.

Разложимая модель

Логлинейная модель разложима, если она графическая и соответствующий граф хордовый .

Модель подходит

Модель хорошо подходит, когда остатки (т. Е. Наблюдаемые-ожидаемые) близки к 0, то есть чем ближе наблюдаемые частоты к ожидаемым частотам, тем лучше подходит модель. Если статистика отношения правдоподобия хи-квадрат не имеет значения, то модель хорошо подходит (т. Е. Рассчитанные ожидаемые частоты близки к наблюдаемым частотам). Если статистика отношения правдоподобия хи-квадрат является значительной, то модель не подходит (т. Е. Рассчитанные ожидаемые частоты не близки к наблюдаемым частотам).

Обратное исключение используется для определения того, какие компоненты модели необходимо сохранить, чтобы наилучшим образом учесть данные. Логлинейный анализ начинается с насыщенной модели, и взаимодействия высшего порядка удаляются до тех пор, пока модель не перестанет точно соответствовать данным. В частности, на каждом этапе после удаления наиболее упорядоченного взаимодействия вычисляется статистика хи-квадрат отношения правдоподобия для измерения того, насколько хорошо модель соответствует данным. Взаимодействия с наивысшим упорядочением больше не удаляются, когда статистика хи-квадрат отношения правдоподобия становится значимой.

Сравнение моделей

Когда две модели вложены друг в друга , модели также можно сравнивать с помощью теста разности хи-квадрат. Тест разности хи-квадрат вычисляется путем вычитания статистики хи-квадрат отношения правдоподобия для двух сравниваемых моделей. Затем это значение сравнивается с критическим значением хи-квадрат при разнице степеней свободы. Если разница хи-квадрат меньше критического значения хи-квадрат, новая модель значительно лучше соответствует данным и является предпочтительной моделью. Иначе, если разница хи-квадрат больше критического значения, предпочтительнее менее экономная модель.

Последующие тесты

После того, как модель наилучшего соответствия определена, взаимодействие высшего порядка исследуется путем проведения анализа хи-квадрат на разных уровнях одной из переменных. Чтобы провести анализ хи-квадрат, необходимо разбить модель на таблицу непредвиденных обстоятельств 2 × 2 или 2 × 1 .

Например, если кто-то изучает взаимосвязь между четырьмя переменными, а модель наилучшего соответствия содержит одно из трехсторонних взаимодействий, можно исследовать его простые двусторонние взаимодействия на разных уровнях третьей переменной.

Размеры эффекта

Для сравнения величины эффекта взаимодействия между переменными используются отношения шансов . Отношения шансов предпочтительнее статистики хи-квадрат по двум основным причинам:

1. Отношение шансов не зависит от размера выборки;

2. На отношения шансов не влияет неравное маржинальное распределение.

Програмное обеспечение

Для наборов данных с несколькими переменными - общие лог-линейные модели

• R с функцией loglm пакета MASS (см. Учебник )
• IBM SPSS Statistics с процедурой GENLOG ( использование )

Для наборов данных с сотнями переменных - разложимые модели

• Хордализ

Смотрите также

• Регрессия Пуассона
• Лог-линейная модель

использованная литература

дальнейшее чтение

• Лог-линейные модели
• Simkiss, D .; Ebrahim, GJ; Уотерстон, AJR (ред.) «Глава 14: Анализ категориальных данных: лог-линейный анализ». Журнал тропической педиатрии , онлайн-раздел «Методы исследования II: многомерный анализ» (стр. 144–153). Получено в мае 2012 г. с сайта http://www.oxfordjournals.org/tropej/online/ma_chap14.pdf.
• Пью, доктор медицины (1983). «Соучастник вины и осуждения за изнасилование: лог-линейные модели обвинения жертвы». Social Psychology Quarterly, 46 , 233–242. JSTOR   3033794
• Табачник, Б.Г., и Фиделл, Л.С. (2007). Использование многомерной статистики (5-е изд.). Нью-Йорк, Нью-Йорк: Аллин и Бэкон.