Лекция 8 Проверка статистических гипотез Качество спецификации модели. - презентация

1 Лекция 8 Проверка статистических гипотез Качество спецификации модели

2 Под качеством спецификации модели понимается: - качество выбора функции уравнения регрессии; - качество выбора набора регрессоров (факторов) Пусть имеем модель в виде уравнения парной регрессии: Y t = a 0 + a 1 x t + u t (11.1) Задача: оценить степень влияния экзогенной переменной Х (фактора) на величину эндогенной переменной Y Другими словами: насколько правильно предположение, что поведение эндогенной переменной зависит от значения фактора Х

3 Определение. Под статистической гипотезой понимается любое предположение о виде закона распределения случайной величины или значениях его параметров Примеры статистических гипотез: Н 0 :(U имеет нормальный закон распределения) H 0 :(параметр а 0 =0) Н 1 :(параметр а 0 =1) Гипотезы H 0 и H 1 называются основной и альтернативной

4 Алгоритм проверки статистических гипотез. Формулируется статистическая гипотеза H 0 Искусственно формируется случайная величина «Z», закон распределения которой известен [P z (t,a 1, a 2 )], котoрая тесно связана с гипотезой Область допустимых значений Z делится на две части: 0 в которой гипотеза принимается и, в которой она отклоняется Граница этих областей определяется из условия, что Z попадает в область 0 с заданной вероятностью «р» По данным выборки вычисляется значение случайной величины Z и проверяется ее принадлежность область 0

5 Примеры. В схеме Гаусса-Маркова проверить гипотезы о том, что a i =c и y= y 0 : Известно, что в схеме Гаусса – Маркова дроби: называются дробью Стьюдента и подчиняются закону распределения Стьюдента Критическое значение дроби Стьюдента находится из уравнения:

6 Здесь: P t (q) функция плотности вероятности распределения Стьюдента, t кр – двусторонняя квантиль распределения, Р дов - значение доверительной вероятности, как правило Р дов =0.95/0.99 Как найти значение t кр В EXCEL используется функция СТЬЮДРАСПОБР с аргументами: «α=(1-Р дов ) – мощность критерия и «m» - количество степеней свободы

7 Гипотеза Н 0 {a i =c} не отклоняется, если выполняется условие: (11,2) Условие (11,2) называется точечной проверкой гипотезы Из условия (11,2) получают границы доверительного интервала для значений дроби Стьюдента: Если константа C лежит внутри этого интервала, то гипотеза о равенстве оценки a i константе С не отвергается

8 В схеме Гаусса-Маркова переменная: подчиняется закону распределения Фишера и критическое значение этой дроби вычисляется из условия:

9 Закон распределения вероятностей Фишера имеет два параметра: n и m, которые называются степенями свободы В EXCEL используется процедура функция FРАСПОБР: FРАСПОБР(α; n; m) где α – мощность критерия

10 Возможные ошибки при проверке статистических гипотез Ошибка первого рода Когда справедливая гипотеза отклоняется Ошибка второго рода Когда ложная гипотеза принимается

11 В качестве меры влияния принимаются дисперсии переменных Y, X и u Знаем, что уравнение регрессии описывает поведение среднего значения эндогенной переменной: Y* = a 0 + a 1 x t (11.3) Тогда уравнение (11.1) можно записать как: Y t = Y* t +u t (11.4)

12 Вычислим дисперсию Y в уравнении (11.4) Вычислим COV(Y t *,u t ): Таким образом, (11.5)

13 Введем обозначения: Здесь: TSS – общая сумма квадратов эндогенной переменной (Total sum of squares ) RSS – регрессионная сумма квадратов (Regression sum of squares ESS – сумма квадратов остатков (ошибок) (Error sum of squares

14 С учетом принятых обозначений выражение (11.4) можно записать в виде: TSS = RSS + ESS(11.5) В качестве показателя степени влияния выбранного регрессора на поведение эндогенной переменной принимается отношение: (11.6) R 2 – называется коэффициентом детерминации

15 Замечание. Коэффициент детерминации R 2 имеет смысл (определен) только для моделей, в спецификации которой присутствует коэффициент a 0 Если коэффициент a 0 отсутствует, то нарушается равенство (11.5) Поясним это графически. Y=0.786x Y=2+0.5x TSS=RSS=2.625 ESS=0 TSS=2.625 RSS=237.7 ESS=8.57 TSSRSS+ESS

16 Если R 2 =1, т.е. RSS=TSS, a ESS=0, то такая модель называется «абсолютно хорошей» Это означает, что выбранный регрессор полностью объясняет поведение эндогенной переменной. Если R 2 =0, т.е. RSS=0, а ESS=TSS, то такую модель называют «абсолютно плохой» В этом случае весь диапазон изменения эндогенной переменной объясняется влиянием случайного возмущения, а выбранный регрессор не оказывает влияния, не объясняет поведение эндогенной переменной

17 Отметим следующее: R 2 – величина случайная, т.к. его конкретное значение вычисляется по результатам случайной выборки Это означает, что полученное значение коэффициента детерминации отличное от нуля еще не является достаточным основанием считать модель качественной Необходимо проверить статистическую гипотезу о не равенстве нулю R 2 : (H 0 : R 2 >0) Внимание! Формулируется гипотеза о не равенстве нулю R 2, т.е гипотеза о том, что модель не плохая

18 Для проверки гипотезы H 0 : R 2 =0 : 1. Формируем случайную величину с известным законом распределения (11.7) где: к - количество параметров в модели n – количество наблюдений в выборке Случайная величина F Test подчиняется закону распределения вероятностей Фишера Критическое значение зависит от уровня доверительной вероятности и двух параметров: k-1 и (n-k)

19 Для проверки гипотезы H 0 : R 2 >0 : 2. Вычисляется по данным выборки значение F Test. 3. Находится по таблице значение F кр (P дов, k-1, n-k). 4. Сравниваются значения Fкр и F Test. ЕслиF Test > F кр то гипотеза H 0 : R 2 >0 не отвергается Значит модель имеет не плохое качество спецификации Т.е. выбранный регрессор объясняет поведение эндогенной переменной. Замечание. Значения R 2 и F Test вычисляются функцией «ЛИНЕЙН» в EXCEL (11.8)

20 YtYt XtXt t 8,80,3612,5 9,40,2111,4 10,00,0810,4 10,60,2011,3 11,00,1010,5 11,90,1210,7 12,70,4112,9 13,50,5013,6 14,30,4313,1 15,50,5914,3 16,70,9016,6 18,60,8216,0 19,71,0417,7 21,11,5321,4 22,81,9424,6 23,91,7523,1 25,21,9924,9 26,02,0325,3 26,82,4028,1 7, , , , , , , ,60239,86224 Пример. Зависимость сбережений граждан (Y) от размера располагаемого дохода в Великобритании R2R2 F Test Результат «ЛИНЕЙН» Fкр=F(0.95,1,17)=4.4 F Test > F кр Вывод: Спецификация модели качественная Диаграмма рассеяния и график модели

21 Замечание. Значения коэффициента детерминации растет с увеличение числа регрессоров. В случае модели в виде уравнения множественной регрессии применяется модифицированный коэффициент детерминации Ř 2 : (11.9) Здесь: R 2 - коэффициент детерминации в форме (11.6) n – объем выборки k – количество регрессоров в модели

22 Замечание. При анализе модели в виде уравнения множественной регрессии принятие гипотезы H 0 : R 2 =0 означает, что все регрессоры не объясняют (не влияют) поведение эндогенной переменной Отклонение гипотезы H 0 : R 2 =0, означает, что не все регрессоры объясняют (влияют) поведение эндогенной переменной Другими словами, в составе выбранных на этапе спецификации модели регрессоров есть как влияющие, так и не влияющие регрессоры Вопрос. Как определить влияющие и не влияющие регрессоры? Ответ. Необходимо проверить гипотезу H 0 : a i =0

23 Проверка статистической гипотезы H 0 : a i =0 Известно, что в схеме Гаусса-Маркова дробь (11.10) подчиняется закону распределения Стьюдента (11.10) где: ã i – оценка i-го параметра модели с – заданная константа σ ai -оценка стандартной ошибки оценки параметра В данном случае с=0, т.е. сравнивается вычисленное значение оценки с нулем Если гипотеза не отвергается для i-го регрессора, то этот регрессор не оказывает влияние на эндогенную переменную и его можно исключить из уравнения модели

24 п/пYtYt XtXt PtPt YtYt XtXt PtPt 1171,31095,499,714106,4779,2100,0 2167,51058,396,715102,0751,699,6 3164,81049,394,21698,4722,5100,0 4159,81021,693,01793,5701,3100,9 5154,81015,593,81885,3646,8102,6 6148,5988,894,71981,6616,3104,0 7141,3942,994,52077,4580,8104,5 8134,9906,893,72174,0542,3104,8 989,1873,5102,22270,7524,9105, ,3875,893,32367,0503,8105, ,2865,399,12464,0489,7104, ,2858,495,12560,9479,7104, ,5810,3100,0 -1,2740, ,59 0,7870,017290,161 0,94598,6976N/А 192,4222N/A ,3N/A 0,1440 0,0027#Н/Д 0, , , ,192822,1312 Расходы на жилье (Y) от располагаемого дохода (Х) и цен на жилье (Р) Модель 1: Y=a 0 +a 1 x+a 2 p+u t i = Модель 2: Y=bx+v Выводы: регрессор x 2 не значим, его можно убрать модель 2 качественно объясняет поведение Y Tкр=2.07

25 Выводы: 1. Одним из показателей качества спецификации является коэффициент детерминации R 2 2. Качество спецификации проверяется путем с помощью статистической гипотезы Н 0 : R 2 >0 Если гипотеза Н 0 принимается – модель не плохая! 3. Критерий принятия решения – F test 4. В моделях в виде множественной регрессии осуществляется проверка статистической гипотезы H 0 : a i =0 Если гипотеза Н 0 принимается, то регрессор хi следует исключить из модели как статистически незначимый! 5. При принятии гипотезы о некачественной спецификации необходимо вернуться к первому этапу построения модели