Проверка на хипотези: повече от две извадки. Дисперсионен анализ. Класификация

11 ПРОВЕРКА НА ХИПОТЕЗИ: ПОВЕЧЕ ОТ ДВЕ ИЗВАДКИ.
ДИСПЕРСИОНЕН АНАЛИЗ: КЛАСИФИКАЦИЯ ПО ЕДИН ФАКТОР

До този момент разглеждахме статистически процедури, които проверяват определена хипотеза или оценяват определен параметър при предположение, че броят на необходимите извадки е не по-голям от две. В тази глава ще анализираме данни, които се получават от повече от две извадки. Тези статистически методи носят наименованието едномерен дисперсионен анализ (ANOVA) и вероятно са сред най- популярните статистически методи.

Проблеми при множествените t-тестове
Нека предположим, че разполагаме с данни от 6 независими извадки, а не от две,
както досега. Нулевата хипотеза, която ни интересува е, че средните на всичките шест популации, от които са извлечени извадките, са равни. Интуитивната реакции на хората, които не са в дълбочина запознати със статистиката е да се провери нулевата хипотеза чрез сравняването по двойки на средните, т.е. на първата стъпка да използваме средните на първата и втората извадки, на втората стъпка – на първата и третата и т.н. до последната стъпка, когато ще се използват петата и шестата извадка. Разбира се, сравненията са симетрични, т.е. сравняванета на първата и втората популации е еквивалентно на сравняването на втората и първата и пр. При наличието на съвременен статистически пакет даже значителен брой сравнения могата да бъдат осъществини с лекота.

Ключови термини Вероятност за грешка от Тип І Разлагане на сумата от квадратите

Нива на независимата променлива
Обща оценка на популационната дисперсия

Вътрегрупова дисперсия Средни квадрати Междугрупова дисперсия Очакван среден квадрат Линеен модел F-отношение
Разлагане на дисперсията F-разпределения
Сума от квадратите Хомогенност (еднородност) на дисперсията

Тази стратегия, обаче, води до някои логически проблеми, най-същественият от които е драматичното нарастване на вероятността за допускане на грешка от Тип І (отхвърляне на вярната нулева хипотеза) с нарастването на броя на подвойковите сравнения. Например, ако трябва да сравним всички възможни подвойкови

комбинации1 на средните, оценени за шест независими извадки ще е необходимо да се извършат 15 t-теста. Нека за всеки от тези тестове е фиксирано ниво на значимост   0.05 . Отделните тестове са независими и, следователно, вероятността за грешка от Тип І може да бъде определена като:
1 − (1 −  )с
където:  = нивото на значимост за всеки отделен тест
с = общия брой подвойкови сравнения.

В нашия пример, крайната вероятност за допускане на грешка от Тип І ще бъде:
1 − (1 − 0.05)15  1 − 0.9515  0.5367
С други думи, вероятността да се направи поне една грешка от Тип І (т.е. да се обяви дадена разлика за значима,

когато тя в действителност не е) при подвойковата сравнявяне на шест средни не е 0.05, а нараства до 0.5367.
Споменатите проблеми налагат да се търси друг подход и този подход е разработният от
Проблемът при изчисляването на много
независими t-тестове, когато данните идват от няколко независими извадки, е че се променя (нараства) вероятността за допускане на грешка от Тип І. Нарастването на тази вероятност е пропорционално на броя на подвойковите сравнения.

Р.А.Фишер дисперсионен анализ (ANOVA), който позволява едновременната проверка за равенството на средните при фиксирано ниво на значимост, което остава неизменно за цялото множество от сравнения. В тази глава ще съсредоточим нашето внимание върху най-простия ANOVA модел, наричан едномерeн еднофакторен модел (One-way ANOVA).

Променливи при ANOVA
При всеки дисперсионен анализ има два променливи – зависими и независими.
Нека си припомним от глава 1, че независимите променливи бяха използвани за групиране на данните. Ако се използват данните от няколко независими извадки, например, от шест различни възрастови групи, променливата възраст, по която са групирани тези данни играе ролята на независима променлива. В тази ситуация възрастта е независима променлива, често наричана още фактор, за която казваме, че има шест нива или равнища2. Таблица 1 показва как обикновено са подредени данните, за които се предполага, че ще бъдат анализирани с помощта на дисперсионния анализ3. При едномерния еднофакторен дисперсионен анализ се анализира само една независима променлива или фактор. Тази независима променлива може да бъде измервана в номинална скала (материал на артефакта), в рангова скала (групирана възраст), в интервална скала (температура) или в скала на отношенията (дължина на артефакта). Възможно е една независима променлива да има две, три, шест или (поне

1 Броят на t-тестовете е равен на комбинациия от шест елемента (всички извадки) от втори клас
(сравнения две по две). Общатя формула за изчисляването на този брой е:

r n 
 C 
n! 
6! 
6.5.4.3.2.1

 15

 r  n
r!(n − r )!
2!4!
(1.2)(1.2.3.4)

 
2 Често нивата се наричат обработки (treatments), особено в промишлените и медицинските експерименти.
3 Така подредените данни са удобни, когато изчисленията не се правят със статистически пакет.
Обикновено обемът на изчисленията налага използването на готов пакет. В този случай данните трябва да се подредят според изискванията на съответния пакет.

теоретично) всякакъв краен брой нива. Независимо от броя на нивата ще имаме един и същ модел – еднофакторен ANOVA тъй като се разглежда само една независима променлива (фактор).

Таблица 1. Таблица на данните при ANOVA за артефактите, датирани в шест различни фази

Датировка (фаза)
1 2 3 4 5 6

xn1 xn2 xn3 xn4 xn5 xn6

x1 x 2 x 3 x4
x4 x6

Да си припомним от глава 1, че зависимата променлива е променлива която е, или се предполага, че е, следствие на независимата променлива. При ANOVA хипотезите се формулират относно средните на подпопулациите, на които факторът разбива популацията, за която е

измерена зависимата променлива и след това се проверяват статистическата значимост на тези хипотези. Съответните измервания и средните обикновено се
Еднофакторният дисперсионен анализ (One-Way
ANOVA) предполага наличието на една независима променлива, наричана още фактор, която има две
или повече нива.

подреждат по начина, показан на Таблица 1. Символът x11 е измерването за първия артефакт от първата група (фаза), x12 е измерването за втория артефакт от първата група и т.н. Нека сумата на измерванията4 във всички групи да е n, т.е.

n  n1  n2  ...  nk . Освен това ще
предполагаме, че всички групи са извлечени от нормално разпределени подпопулации с

Промените в зависимата променлива са, или се предполага че са, следствие от промените в независимата променлива (фактора).

еднакви дисперсии. Тъй като се изисква изчисляване на средни стойности, то всички измервания трябва да са направени поне по интервалната скала.

4 Не е задължително групите да съдържат равен брой измервания, т.е. да са балансирани. Това, обаче,
може да облекчи анализа, ако е налице.

Основни подходи на дисперсионния анализ
Нулевата хипотеза, която се проверява в дисперсионния анализ е, че средни на
(под)популациите, от които са извлечени k случайни извадки са равни. Символично:
H 0 : 1   2  ...   k ,
където с k е означен броят на нивата на независимата променлива. В нашия пример с шест фази нулевата хипотеза е:
H 0 : 1   2   3   4   5   6
Алтернативната хипотеза е, че популационните средни се различават. По-точно,
съществува поне една популационна средна, която се различава от другите. Или:

H a :  i
≠  j
за поне една двойка индекси i и j.

Процедурата за проверка на горната нулева хипотеза срещу указаната алтелнатива е точно това, което се нарича дисперсионен анализ на измерванията на зависимата променлива. При този анализ общата дисперсия на измерванията се разлага (разбива) на две съставящи. Тези две части на дисперсията са: 1) дисперсия на измерванията вътре в дадените k групи (вътрегрупова дисперсия); 2) дисперсия между груповите средни и общата средна (междугрупова дисперсия).

Интуитивен подход при разбиването на дисперсията
Да предположим, че изследовател се интересува от различията в технологията на изработването на артефактите в четири различни фази. Нека разполага с 400 артефакта, по 100 за всяка фаза. В това изследване независимата променлива е фазата на датиране на артефакта. Тази променлива има 4 равнища (различните фаза). За зависима променлива е избрана дължината на артефактите. За да можем да илюстрираме графично разлагането на дисперсията на измерванията на 400-те артефакта нека предположим: 1) 100-те измервания за всяка от четирите групи са нормално разпределени; 2) ако има препокриване в резултатите на отделните групи то не е значително; 3) дисперсията на измерванията за всяка група е една и съща, т.е. групите са хомогенни. Тези разпределение са показани на Фигура 1.
Да разгледаме общата дисперсия на резултатите за извадката от 400 случая. Изчисляването на дисперсията предполага да се намери сумата от квадратите на разликите между индивидуалните резултати и общата средна и след това тази сума да се раздели на 399, т.е. ще имаме ∑ ( x − x ) 2 / 399 . Приносът на първия артефакт от
първата група в общата дисперсия ще е отклонението на неговата дължина от общата средна, или ( x11 − x ) . От Фигура 1 се вижда ясно, че тази разлика може да се разбие на две части.
Първата компонента е отклонението на резултата от средната за групата, в която

е попаднал артефакта, т.е.
( x11 − x1 ) , а втората компонента е отклонението на

съответната групова средна от общата средна, т.е. ( x1 − x ) . Първата част на отклонението отразява естественото или вътрешно присъщото разсейване на зависимата променливи сред артефактите от една и съща фаза, т.е. попадащи на едно и също равнище на фактора. Тази дисперсия между всички измервания вътре във

wфиксирана група или ниво се нарича вътрегрупова дисперсия и се бележи с
s 2 .

Предполага се, че вътрегрупова дисперсия съществува за всяко ниво на фактора и дисперсиите на отделните групи са приблизително равни. Дисперсията за всяка отделна група може да се разглежда като функция на специфичния артефакт, който е извлечен от популацията случайно. Следователно, вътрегруповата дисперсия може да бъде отнесена за сметка на случайните извадкови флуктуации.

Фигура 1. Разлагане на дисперсията на междугрупова и вътрегрупова компонента и възможно разположение на груповите средни при невярна нулева хипотеза

Втората компонента се базира на разликата между груповите средни. Неправдоподобно е да очакваме, че средните ще бъдат математически равни даже, ако технологиите не се различават. По-правдоподобно е очакването те да се различават. Тази разлика, разбира се, ще е резултат от априорните индивидуални различия между артефактите. Като следствие, ще очакваме новите групови средни да се различават поради вероятностния процес на формиране на групите. Тъй като предполагаме, че към различните групи са приложени

bразлични обработки (технологии), които имат ефект върху зависимата променлива, то може да очакваме по-голяма разлика между груповите средни. Следовател