КЛАССИЧЕСКИЙ РЕГРЕССИОННЫЙ АНАЛИЗ. ОБЩАЯ ЛИНЕЙНАЯ МОДЕЛЬ. - презентация

1 КЛАССИЧЕСКИЙ РЕГРЕССИОННЫЙ АНАЛИЗ

2

3 ОБЩАЯ ЛИНЕЙНАЯ МОДЕЛЬ

4 Представление в матричном виде

5 Матрица регрессоров Матрица- столбец параметров модели b T = ( b 1, b 2, … b k ) Вектор – столбец оценки измеряемой величины

6 Основные предположения

7 Оценки параметров модели методом наименьших квадратов

8 Введем обозначения

9 Свойства оценок параметров

10 Дисперсии предсказанного значения Где f x – вектор регрессоров

11 Несмещенная оценка дисперсии

12

13 Статистический анализ качества регрессионной модели

14 Последствия ошибок При недоборе параметров оценки оказываются смещенными и несостоятельными При переборе – оценки остаются несмещенными, но при этом теряется точность

15 Последствия ошибок

16 Истинная модель – многочлен 3-го порядка

17 Линейная оценка (недобор параметров)

18 Квадратичная оценка (недобор параметров)

19 Аппроксимация многочленом 4-го порядка – перебор

20 Сравнение моделей

21 Статистический анализ регрессионной модели Проверка гипотезы об адекватности модели Проверка гипотезы о значимости параметров модели Анализ остатков Построение доверительных интервалов

22 Проверка адекватности модели Независимая оценка дисперсии

23 Оценка остаточной дисперсии

24 Суммы квадратов отклонений

25 Полная сумма квадратов равна сумме квадратов, обусловленных регрессией плюс сумма квадратов относительно регрессии (остаточная сумма квадратов)

26 Дисперсионное отношение Фишера

27 Проверка гипотезы о значимости коэффициента детерминации Коэффициент детерминации (множественной корреляции) в случае парной регрессии (функция одной переменной) равен квадрату коэффициента корреляции между наблюдаемыми и предсказанными значениями определяемой переменной. Он показывает, насколько лучше наша модель описывает эксперимент по сравнению со средним значением

28

29

30 Проверка гипотезы о значимости коэффициентов модели

31

32 Анализ остатков

33

34

35 Неадекватная модель

36 Доверительные интервалы для предсказанного значения

37

38

39 50 ТОЧЕК

40 Непараметрический РЕГРЕССИОННЫЙ АНАЛИЗ Сглаживание РЕЗУЛЬТАТОВ

41 ПРЕСЛЕДУЕТ 4 ЦЕЛИ

42 ОСНОВНАЯ ИДЕЯ СГЛАЖИВАНИЯ Процедура локального усреднения Здесь W ni последовательность весов, зависящих от всех x i

43 Методы сглаживания Сглаживание с помощью «регрессограммы» Ядерное сглаживание Сглаживание по k ближайшим соседям

44

45 Ядерное сглаживание Задаем функцию «ядра» K(x)

46

47 Ядро Епанечникова

48

49 Сглаживание по k ближайшим соседям

50