Регресионен и дисперсионен ан

§9. Регресионен и дисперсионен анализ
1. Линеен регресионен анализ. Този вид статистически анализ е предназначен
да даване количествен израз на ефектите на дадена група метрични величини
1
X,
2
X,
...,
pX, които условно се наричат независими (independent) върху друга величина Y,
която условно се нарича зависима (dependent). Независимите величини се наричат
понякога и фактори. Предметният контекст на регресионния анализ предполага
каузални връзки между факторите и зависимата величини. Основната идея се състои в
следното. Въз основа на взаимното популационно разпределение на всичките величини
се търси естествена функционална връзка от вида
(9.1) ( )
pxxxfy ,,,
21K= ,
която по статистически обоснован начин дава прост израз на ефектите на отделните
независими величини върху зависимата. Уравнението (9.1) се нарича уравнение на
регресия на Y върху
1
X,
2
X, ...,
pX и се получава на база усредняване стойностите на
Y при фиксирани стойности на
1
X,
2
X, ...,
pX. Когато взаимното популационно
разпределение на всичките величини е нормално, уравнението на регресия (9.1) се
оказва линейно
(9.2)
ppxbxbxbby ++++= L
22110 ,
където
0
b,
1
b,
2
b, ...,
p
b са коефициентите на уравнението. Тези коефициенти лесно се
интерпретират по знак. Ако например 0
1
>b, то нарастването на
1
x води до нарастване
на y и ако 0
1
<b, то нарастването на
1
x води до намаляване на y. По-големите по
абсолютна стойност коефициенти са свързани с по-голяма промяна при зависимата
величина. Съпоставката по абсолютна стойност на тези коефициенти като критерий
доколко е голям ефектът на отделните независими величини трябва да отчита и други
обстоятелства, свързани с дисперсиите на величините. По тази причина е по-удобно
всичките величини да бъдат приведени към z-стойности (нормално стандартно
разпределение) вместо (9.2), при което се получава уравнението
(9.3)
p
pp
p
ys
xx
s
xx
s
xx
s
yy −
β++
−
β+
−
β=
−
L
2
22
2
1
11
1
,
в което свободният коефициент е равен на нула, а коефициентите
1
β,
2
β, ...,
pβ се
наричат стандартизирани коефициенти на регресия . Стандартизираните
коефициенти се интерпретират по знак както преди но вече са съпоставими и по
абсолютна стойност.
За всеки от коефициентите на регресия се пресмята значимост, като фактически
се проверява нулева хипотеза, че съответният популационен коефициент е равен на
нула. При тези хипотези проверяващата статистика е има разпределение на Стюдънт
() 1−−pnt, където n е обемът на извадката. Ако някой от коефициентите се получи с
пренебрежима значимост, то съответната независима величина може да бъде
изключена от анализа без съществена загуба на информация. Освен това за целия модел
се пресмята величина
2
R (квадрата на множествения коефициент на корелация), която
показва каква пропорция от изменчивостта на зависимата величина се обяснява
посредством изменението на независимите величини. В тази връзка се проверява и
нулева хипотеза, че линейният регресионен модел не обяснява по същество
изменчивостта при зависимата величина, като проверяващата статистика е
разпределена () 1, −−pnpF.

2
Да разгледаме следния пример. Изследва се група от 61=n девойки от
специализирано висше учебно заведение по различни психични показатели. Зависимата
величина представлява нивото на адаптация към средата, формирана чрез факторен
анализ въз основа на шест основни скали за адаптация, а в качеството на независими се
вземат следните седем величини ( )7=p , всяка от които също е формирана чрез
факторен анализ от няколко основни скали, които няма да описваме във всички
подробности. Следващата таблица съдържа кратко описание на използваните
независими величини – фактори.
Таблица 9.1.
ФАКТОРИ описание
Положителна перцепция на средата
задоволеност, защитеност,
висока нормативна база, строгост на реда
Отрицателни фактори на средата изолираност, натовареност, противоречивост
Негативни емоционални състояния
безпокойство, неувереност, потиснатост,
самота, стеснителност
Позитивни емоционални състояния
дружелюбност, активност,
вътрешен интерес
Личностна проблематичност
невротичност, занижена самооценка,
липса на общителност,
стеснителност, емоционална лабилност
Импулсивност на поведението
спонтанна агресивност, раздразнителност,
реактивна агресивност, откритост
Социална подкрепа организационна, вертикална, хоризонтална

След провеждане на регресионния анализ се получават следните резултати.
Таблица 9.2.
R
2
=0.697;
F(7,53)=17.424; p=0.000 Фактори
Beta t(53) p
Положителна перцепция на средата 0.199 1.737 0.088
Отрицателни фактори на средата -0.399 4.340 0.000
Негативни емоционални състояния -0.143 1.487 0.143
Позитивни емоционални състояния 0.385 4.051 0.000
Личностна проблематичност -0.017 0.170 0.866
Импулсивност на поведението 0.022 0.247 0.806
Социална подкрепа 0.171 1.205 0.233
Тук статистически значими в рамките на традиционния критерий 05.0<p се
оказаха само коефициентът на фактора "отрицателните фактори на средата"
[
399.0−=beta; 000.0=p ], който има отрицателен ефект върху адаптацията понеже
знакът на коефициента е минус и коефициентът на фактора "позитивни емоционални
състояния" [
385.0=beta; 000.0=p ], който фактор има положителен ефект понеже
знакът на съответния коефициент е плюс. За останалите коефициенти не разполагаме с
достатъчно основания да приемем, че техните популационни стойности фактически са

3
различни от нула, освен евентуално за фактора "положителна перцепция на средата", за
който имаме [
199.0=beta; 088.0=p ]. Същият коментар с по-ниска степен на увереност
може да бъде направен за фактора "социална подкрепа" и за фактора "негативни
емоционални състояния".
Моделът като цяло обяснява % 70%100
2
≈R от изменчивостта на зависимата
величина "адаптация", което е един много добър резултат.
Постигнатият резултат може лесно да бъде коментиран и в рамките на
предметната област, понеже женската природа разбира адаптацията преди всичко като
контрол над средата в повече детайли и свързаната с това проява на положителни
емоции като средство
за компенсация и контрол. Липсата на ефект на "личностната
проблематичност" не влияе върху адаптацията се обяснява от факта, че изследваната
група от девойки е преодоляла много сериозна селекция на входа, която е допуснала
индивиди с еднородно високи личностни характеристики.
Следващият пример е свързан с анализ на семестриалния успех на група от

135=n обучаеми в специализирано висше учебно заведение. Целта на анализа е
установяване степента на прогностична валидност на бал образуващите фактори върху
средния годишен успех от семестриалните изпити, който представлява зависимата
величина. В качеството на независими величини се разглеждат оценката по математика
от дипломата, оценката по физика от дипломата, оценката по български
език от
дипломата, оценката от конкурсния изпит по математика и средния успех от дипломата.
Резултатите от анализа са приведени в следващата таблица.
Таблица 9.3.
R
2
=0.372;
F(5,129)=15.309; p=0.000 Фактори
Beta t(129) p
оценка по математика от дипломата -0.021 -0.252 0.801
оценка по физика от дипломата 0.055 0.644 0.521
оценка по български език от дипломата 0.137 1.109 0.270
оценка от конкурсния изпит по математика 0.429 5.957 0.000
среден успех от дипломата 0.294 2.205 0.029
Анализът показва, че водещо значение има оценката по математика от
конкурсния изпит [
429.0=beta; 000.0
=p ] и средния успех от дипломата
[
294.0=beta; 029.0=p ]. Другите бал образуващи фактори имат подчертано незначим
ефект, при което особено впечатление прави ефектът от оценката по математика
[
021.0−=beta; 801.0=p ] на фона на водещото значение на оценката от конкурсния

4
изпит. От всичките приведени дипломни оценки най-важна роля има оценката по
български език [
137.0=beta; 270.0=p ], който ефект си струва да бъде отбелязан
въпреки неговата формална статистическа незначимост.
Моделът като цяло обяснява % 37%100
2
≈R от изменчивостта на зависимата
величина "среден годишен успех от семестриалните изпити", което сравнително малко
и означава, че доброто обяснение на зависимата величина изисква включване на други
независими величини, които в дадения модел не присъстват.
Полученият резултат позволява различни интересни интерпретации, като преди
всичко доказва ефективността от проведения конкурсен изпит.
2. Дисперсионен анализ. В предишните раздели вече беше разгледан случая на
еднофакторен дисперсионен анализ както и на дисперсионен анализ за повтарящи се
измервания, които представляват частни случаи на дисперсионен анализ. Тук ще
разгледаме примери на многофакторни дисперсионни анализи.
Основната цел на дисперсионния анализ е същата както при регресионния
анализ – да се изследва значимостта
на определена група фактори (независими
величини) върху дадена зависима величина, само че тук факторите са номинални
величини.
Да разгледаме пример на двуфакторен дисперсионен анализ, при който
зависимата величина представлява началната заплата на работещи в държавни
учреждения с два фактора, първият от които е полът
()1F, а вторият ()2F
принадлежността на лицето към основната група население или към малцинствена
група. Данните са взети от съпровождащите файлове на
SPSS. Извадката съдържа
216=n наблюдения на лица със средно образование, подредени по различните
категории както следва.
Таблица 9.4.
основно населениемалцинство общо по редове
жени 128 30 158
мъже 36 22 58
общо по стълбове 164 52 216
В този случай се говори за небалансиран дизайн на експеримента, понеже броят
на наблюденията в основните клетки е различен.
Тук се проверяват три нулеви хипотези.
ефектнезначимимафакторпървиятH
F
:
1
0

5
ефектнезначимимафакторвториятH
F
:
2
0

твиевзаимодейснезначимоиматфакторадватаH
FF
:
21
0
×

Всяка от тези нулеви хипотези има проверяваща статистика, пресметната въз
основа на дисперсии, която следва някакво
F-разпределение, откъдето идва и
наименованието дисперсионен анализ. Иначе по същество дисперсионният анализ
представлява специфична форма на сравнителен анализ.
Следващата таблица съдържа резултатите от анализа.
Таблица 9.5. (лица със средно образование)
F(1,212) p
пол 63.136 0.000
малцинствена принадлежност 10.427 0.001
взаимодействие
(пол* малцинствена принадлежност)
0.908 0.341
В случая на двуфакторен дисперсионен анализ, резултатите много добре се
илюстрират от една диаграма, показваща разположението на ср