В задачу регрессионного анализа входит не только построение самой модели, но и исследование случайных отклонений, т.е. остаточных величин. Исследование остаточных величин.
Оценки параметров регрессии должны отвечать определенным критериям: Несмещенность оценки ( математическое ожидание остатков равно нулю ). Эффективность ( оценки имеют наименьшую дисперсию ). Состоятельность ( увеличение точности с увеличением объема выборки )
Указанные критерии оценок (несмещенность, состоятельность, эффективность) обязательно учитываются при разных способах оценивания. Так как метод наименьших квадратов строит оценки регрессии на основе минимизации суммы квадратов остатков, то очень важно исследовать поведение остаточных величин регрессии i
Исследование остатков i предполагают проверку наличия следующих пяти предпосылок МНК: случайный характер остатков; нулевая средняя величина остатков, не зависящих от x; гомоскедастичность – дисперсия каждого отклонения одинаковая для всех значений x; отсутствие автокорреляции остатков. Значения остатков распределены независимо друг от друга; остатки подчиняются нормальному распределению.
Если распределение случайных остатков не соответствует некоторым предпосылкам МНК, то следует корректировать модель.
Прежде всего, проверяется случайный характер остатков - первая предпосылка МНК. С этой целью строится график зависимости остатков i от теоретических значений результативного признака y x.
Если на графике получена горизонтальная полоса (из точек, как показано на рис.), то остатки i представляют собой случайные величины и МНК оправдан, теоретические значения y x аппроксимируют фактические значения y. Возможны следующие случаи: если i зависит от y x, то: остатки не случайны (рис. а); остатки не имеют постоянной дисперсии (рис. в); остатки носят систематический характер (рис. б),
В этих случаях необходимо либо применять другую функцию, либо вводить дополнительную информацию и заново строить уравнение регрессии до тех пор, пока остатки не будут случайными величинами.
Вторая предпосылка МНК относительно нулевой средней величины остатков означает, что.
В соответствии с третьей предпосылкой МНК требуется, чтобы дисперсия остатков была гомоскедастичной. Это значит, что для каждого значения фактора остатки должны иметь одинаковую дисперсию. Если это условие не соблюдается, то имеет место гетероскедастичность. Наличие гетероскедастичности можно наглядно видеть из графика зависимости остатков от теоретических значений результативного признака.
Примеры гетероскедастичности: дисперсия остатков растет по мере увеличения x;
дисперсия остатков достигает максимальной величины при средних значениях переменной х и уменьшается при минимальных и максимальных значениях х;
максимальная дисперсия остатков при малых значениях х и дисперсия остатков однородна по мере увеличения значений х
Метод Гольдфельда Квандта При малом объеме выборки, что наиболее характерно для эконометрических исследований, для оценки гетероскедастичности может использоваться метод Гольдфельда Квандта.
метод Гольдфельда Квандта., включает в себя следующие шаги. 1. Упорядочение n наблюдений по мере возрастания переменной у. 2. Исключение из рассмотрения С центральных наблюдений;при этом (n - С): 2 > р, где р число оцениваемых параметров.
3. Разделение совокупности из наблюдений на две группы (соответственно с малыми и большими значениями фактора x) и определение по каждой из групп уравнений регрессии. 4. Определение остаточной суммы квадратов для первой и второй групп и нахождение их отношения:
При выполнении нулевой гипотезы о гомоскедастичности отношение R будет удовлетворять F -критерию с : (n-C-2p):2 степенями свободы для каждой остаточной группы квадратов. Чем больше величина превышает табличное значение F-критерия, тем более нарушена предпосылка о равенстве дисперсий остаточных величин.
четвертая предпосылка МНК - отсутствие автокорреляции остатков, т. е. значения остатков распределены независимо друг от друга. Автокорреляция остатков означает наличие корреляции между остатками текущих и предыдущих (последующих) наблюдений. Коэффициент корреляции между и, где - остатки текущих наблюдений, - остатки предыдущих наблюдений (например, j = i - 1), может быть определен по формуле:
Наряду с предпосылками МНК должны соблюдаться определенные требования относительно переменных, включаемых в модель. Это возможно, если число наблюдений n превышает число оцениваемых параметров m.
Пример использования метода Гольдфельда Квандта Поступление доходов в бюджет Санкт-Петербурга (у млрд руб.) в зависимости от численности работающих на крупных и средних предприятиях (х -тыс. чел.) экономики районов за 1994 г.
п/пРайоны города xixi yiyi 1Павловский34,4-1,05,4 2Кронштадт68,12,55,6 3Ломоносовский812,94,98,0 4Курортный1820,816,64,2 5Петродворец2015,519, Пушкинский2328,822,56,3 7Красносельский3937,541,4-3,9 8Приморский4948,753,2-4,5 9Колпинский6068,666,12,5 10Фрунзенский74104,682,622,0 11Красногвардейский7990,588,52,0 12Василеостровский 95 88,3107,4-19,1 13Невский106132,4120,412,0 14Петроградский112122,0127,4-5,4 15Калининский11599,1131,0-31,9 16Выборгский125114,2142,7-28,5 17Кировский132150,6151,0-0,4 18Московский149156,1171,0-14,9 19Адмиралтейский157209,5180,529,0 20Центральный282342,9327,815,1 Итого ,5 0,0
В соответствии с уравнением найдены теоретические значения и отклонения от их фактических значений, т. е...
Итак, остаточные величины обнаруживают тенденцию к росту по мере увеличения и
Этот вывод подтверждается и по критерию Гольдфельда – Квандта. Для его применения необходимо определить сначала число исключаемых центральных наблюдений C. При n=20 берем C=4 (при n=60 C= 16, при n=30 C=8). Тогда в каждой группе будет по 8 наблюдений. Результаты расчетов представлены в таблице.
Проверка регрессии на гетероскедастичность. Уравнения регрессии xy 1 -я группа с первыми 8 районами: r = 0,979 F = 136,4 34,45,7-1,31,69 68,18,5-0,40,16 812,910,32,66, ,819,61,21, ,521,4-5,934, ,824,24,621, ,538,9-1,41, ,748,10,60,36 Сумма 68,34 2-я группа с последними 8 районами: r = 0,969 F = 93, ,4110,721,7470, ,0118,73,310, ,1122,7-23,6556, ,2136,1-21,9479, ,6145,45,227, ,1168,2-12,1146, ,5178,930,6936, ,9346,1-3,210,24 Сумма 2638, 40 Уравнения регрессии xy 1 -я группа с первыми 8 районами: r = 0,979 F = 136,4 34,45,7-1,31,69 68,18,5-0,40,16 812,910,32,66, ,819,61,21, ,521,4-5,934, ,824,24,621, ,538,9-1,41, ,748,10,60,36 Сумма 68,34 2-я группа с последними 8 районами: r = 0,969 F = 93, ,4110,721,7470, ,0118,73,310, ,1122,7-23,6556, ,2136,1-21,9479, ,6145,45,227, ,1168,2-12,1146, ,5178,930,6936, ,9346,1-3,210,24 Сумма 2638, 40 Уравнения регрессии xy 1 -я группа с первыми 8 районами: r = 0,979 F = 136,4 34,45,7-1,31,69 68,18,5-0,40,16 812,910,32,66, ,819,61,21, ,521,4-5,934, ,824,24,621, ,538,9-1,41, ,748,10,60,36 Сумма 68,34
Уравнения регрессии xy 2-я группа с последними 8 районами: r = 0,969 F = 93, ,4110,721,7470, ,0118,73,310, ,1122,7-23,6556, ,2136,1-21,9479, ,6145,45,227, ,1168,2-12,1146, ,5178,930,6936, ,9346,1-3,210,24 Сумма 2638,40
Величина, что превышает табличное значение – F- к ритерия 4,28 при 5 %-ном уровне значимости для числа степеней свободы 6 для каждой остаточной суммы квадратов, подтверждая тем самым наличие гетероскедастичности.